이전
목록
다음
탈

자체 LLM 구축 솔루션 Ollama (윈도우도 가능)

탈퇴회원
프로필 보기이 회원 글보기이 회원의 댓글보기
 · 2024-07-11 (목) 14:12:42 · 912 · 3

https://ollama.com/

 

2039503729_1720674600.9761.png

 

위 사진에 설명된 것처럼 macOS, Linux, Windows에서 실행가능한 자체 LLM 구축 솔루션입니다.

 

저는 윈도우에서 실행해 봤는데, 되긴 한데 답변이 넘 느리네요 ㅠㅠ GPU가 딸려서 그런지...

|

댓글 3개

ttechstar
프로필 보기이 회원 글보기이 회원의 댓글보기
 2024-07-12 (금) 02:23:10

전시회때 본것처럼 최소 RTS40시리즈 한 4대 연결해놓고 돌려야하지않을까요 ? 저는 그래서 SLM으로 방향을 선회했습니다.

탈탈퇴회원
프로필 보기이 회원 글보기이 회원의 댓글보기
 2024-07-12 (금) 14:49:24

@techstar 오 SLM은 덕분에 처음 알게 되었습니다.

RTX40 4대... 어마어마한 자금이 필요하겠군요 ㅠㅠ

 

저만의 자비스를 만들어 보려고 하는데 SLM이 뭔지 한 번 공부해 봐야겠습니다.

 

감사합니다.

ttechstar
프로필 보기이 회원 글보기이 회원의 댓글보기
 2024-07-12 (금) 16:21:01

@부산곰돌이 SLM이나 SLLM을 검색해보시면 좀더 도움이 되실꺼 같습니다. ^^

댓글을 작성하시려면 로그인이 필요합니다.

인공지능

28건
+
제목 글쓴이 날짜 조회
24-07-16 조회 1,031
24-07-11 조회 913
23-08-25 조회 1,201
23-08-25 조회 781
23-08-24 조회 1,311
23-07-21 조회 1,437
23-07-19 조회 1,502
23-07-18 조회 656
23-07-18 조회 688
23-07-16 조회 1,216
23-07-13 조회 1,079
23-07-12 조회 1,114
23-07-12 조회 1,221
23-07-11 조회 712
23-07-10 조회 1,251
23-07-06 조회 1,583
23-07-06 조회 1,220
23-07-03 조회 606
23-07-02 조회 1,386
23-07-01 조회 1,207
23-07-01 조회 981
23-06-30 조회 506
23-06-30 조회 895
23-06-30 조회 677
23-06-29 조회 834
23-06-29 조회 661
23-06-29 조회 919
23-06-29 조회 1,179
글쓰기