gpt-oss:20b 모델 사용 후기
올리마를 활용해서 사용해 보았습니다.
나름 괜찮은데요?
클로스 소넷 3.5 쓸때와 비슷한것 같습니다.
웹검색도 가능해서 토큰 소비가 없으니 1~20분 시원하게 서치해서 결과를 뽑아주네요
커스텀 Agent를 만들면 이정도도 쓸만하겠구나 싶네요
혹시나 해서
120b 모델도 돌려봤는데 구동조차 되지 않네요 ㅎㅎ
|
댓글을 작성하시려면 로그인이 필요합니다.
댓글 4개
맥북 프로 MAX
16코어
40그래픽 코어
48G RAM
기준으로 아주 쾌적하게 돌아갑니다.
맥 스튜디오 최고사양으로 뽑으면 1500만원 정도 하던데 120도 잘 돌아갈것 같은데요?
로컬 모델인데 한글을 완벽지원 해줘서 좋습니다.
120B 돌리시려면...H200 2GPU서버로 돌려야 쾌적하게 돌아갈거같습니다.