미친 구글 잼마4 성능
체급 대비 성능이 언청나네요..ㄷㄷ
이건 뭐 벤치마크에 맞춰서 학습시켰나 믿기지 않은 성능이..
엔비디아 그래픽카드 괜찮은거나 아니면 블랙웰 미니컴퓨터에 vllm설치해서 쓰면 고난도 코딩 문제 제외 대부분이 해결될 것 같네요.
거기다 아파치 라이선스로 공개해버린것도 중국이 지배한 오픈 모델 시장에 거대한 균열을 일으킬 것이라 생각됩니다.
https://youtu.be/6bt8iQctcog
이건 뭐 벤치마크에 맞춰서 학습시켰나 믿기지 않은 성능이..
엔비디아 그래픽카드 괜찮은거나 아니면 블랙웰 미니컴퓨터에 vllm설치해서 쓰면 고난도 코딩 문제 제외 대부분이 해결될 것 같네요.
거기다 아파치 라이선스로 공개해버린것도 중국이 지배한 오픈 모델 시장에 거대한 균열을 일으킬 것이라 생각됩니다.
https://youtu.be/6bt8iQctcog
총 1명이 반응했습니다
|
댓글을 작성하시려면 로그인이 필요합니다.
댓글 5개
그리고 웹에서그리고 wasm 사용해서 브라우저로 로딩시켜서 사용도 가능해서 api 비용 없이 사용자의 gpu 자원으로 구동이 가능하다고 하네요.
저도 한번 돌려봐야 겠습니다.