똥싼너구리

gpt-oss:20b 모델 사용 후기

· 5개월 전 · 349 · 4

올리마를 활용해서 사용해 보았습니다.

나름 괜찮은데요?

클로스 소넷 3.5 쓸때와 비슷한것 같습니다.

웹검색도 가능해서 토큰 소비가 없으니 1~20분 시원하게 서치해서 결과를 뽑아주네요

 

커스텀 Agent를 만들면 이정도도 쓸만하겠구나 싶네요

 

혹시나 해서 

120b 모델도 돌려봤는데 구동조차 되지 않네요 ㅎㅎ

 

2049704863_1755415570.9328.png

 

2049704863_1755415778.3211.png

|

댓글 4개

맥북 프로 MAX

16코어

40그래픽 코어

48G RAM

기준으로 아주 쾌적하게 돌아갑니다.

맥 스튜디오 최고사양으로 뽑으면 1500만원 정도 하던데 120도 잘 돌아갈것 같은데요?

로컬 모델인데 한글을 완벽지원 해줘서 좋습니다.

120B 돌리시려면...H200 2GPU서버로 돌려야 쾌적하게 돌아갈거같습니다.

댓글 작성

댓글을 작성하시려면 로그인이 필요합니다.

로그인하기
🐛 버그신고