AWS AWS 디딤 클라우드

알림톡 통합메시징(알림톡)

이니톡 결제 이니톡(알림톡) 결제!

일본결제지원 일본결제지원!

이전
목록
다음
탈

자체 LLM 구축 솔루션 Ollama (윈도우도 가능)

탈퇴회원
프로필 보기이 회원 글보기이 회원의 댓글보기
 · 2024-07-11 (목) 14:12:42 · 897 · 3

https://ollama.com/

 

2039503729_1720674600.9761.png

 

위 사진에 설명된 것처럼 macOS, Linux, Windows에서 실행가능한 자체 LLM 구축 솔루션입니다.

 

저는 윈도우에서 실행해 봤는데, 되긴 한데 답변이 넘 느리네요 ㅠㅠ GPU가 딸려서 그런지...

|

댓글 3개

ttechstar
프로필 보기이 회원 글보기이 회원의 댓글보기
 2024-07-12 (금) 02:23:10

전시회때 본것처럼 최소 RTS40시리즈 한 4대 연결해놓고 돌려야하지않을까요 ? 저는 그래서 SLM으로 방향을 선회했습니다.

탈탈퇴회원
프로필 보기이 회원 글보기이 회원의 댓글보기
 2024-07-12 (금) 14:49:24

@techstar 오 SLM은 덕분에 처음 알게 되었습니다.

RTX40 4대... 어마어마한 자금이 필요하겠군요 ㅠㅠ

 

저만의 자비스를 만들어 보려고 하는데 SLM이 뭔지 한 번 공부해 봐야겠습니다.

 

감사합니다.

ttechstar
프로필 보기이 회원 글보기이 회원의 댓글보기
 2024-07-12 (금) 16:21:01

@부산곰돌이 SLM이나 SLLM을 검색해보시면 좀더 도움이 되실꺼 같습니다. ^^

댓글을 작성하시려면 로그인이 필요합니다.

인공지능

28건
+
제목 글쓴이 날짜 조회
24-07-16 조회 1,019
24-07-11 조회 898
23-08-25 조회 1,179
23-08-25 조회 769
23-08-24 조회 1,300
23-07-21 조회 1,406
23-07-19 조회 1,466
23-07-18 조회 644
23-07-18 조회 680
23-07-16 조회 1,176
23-07-13 조회 1,069
23-07-12 조회 1,097
23-07-12 조회 1,208
23-07-11 조회 697
23-07-10 조회 1,239
23-07-06 조회 1,558
23-07-06 조회 1,212
23-07-03 조회 596
23-07-02 조회 1,376
23-07-01 조회 1,195
23-07-01 조회 969
23-06-30 조회 497
23-06-30 조회 885
23-06-30 조회 667
23-06-29 조회 822
23-06-29 조회 651
23-06-29 조회 909
23-06-29 조회 1,170
글쓰기