ChatGPT 오픈소스 모델이 공개되었습니다.
다운받아서 설치해봤는데요. 품질이 아주 훌륭하더군요.
토큰 걱정 없이 고품질의 AI 서비스를 구축가능한 시대가 되었습니다.
댓글을 작성하시려면 로그인이 필요합니다.
ChatGPT 오픈소스 모델이 공개되었습니다.
다운받아서 설치해봤는데요. 품질이 아주 훌륭하더군요.
토큰 걱정 없이 고품질의 AI 서비스를 구축가능한 시대가 되었습니다.
댓글 14개
예전의 포토샆처럼 자기의 피시에 설치하는 것인가요?
컴퓨터의 성능도 중요하겠네요.
@김철용 https://lmstudio.ai/ 이 프로그램인듯 싶네요
@김철용 설치해보세요~ https://ollama.com/download
m4 맥북 프로 64G 가 있어야 할것 같네요. 적당한 핑계거리가 생긴..
이건 다 일때문에 어쩔수 없이 구매하는겁니다.
@솔그루 20b 모델은 24G정도 되어야하는것 같아요
제가 보았을때는 이런 로컬 시장이 훠~얼~씬 크긴합니다.^^
대부분의 회사에서 온라인 LLM을 못쓰게 하거든요
그래서 실제 B2B 솔루션 만들면 이런 로컬 LLM 서버를 구축해서 써야 하는데
그 성능이 최신 LLM에 못미치다 보니 보급이 잘 안되었는데
이런게 많이 나오면 어느정도 성능을 타협 하면서 서비스 개발이 가능할것 같네요
대신 개인은 무조건 온라인 쓰는게 이득입니다. ㅋㅋ
저거 팽팽 돌아가는 서버 구축하는데 수천에서 1억까지 깨질텐데
그 돈이면 최신 AI 구독해서 사용하는게 좋죠^^
궁굼증1) 토큰걱정없이 PC에서 고품질로 돌아가면 얘네는 모먹고살죠?
@크론이 하드웨어 사양이 필요하기 때문에, 호스팅 사업으로 먹고살것 같아요.
워드프레스는 오픈소스이지만, 웹호스팅 서비스 사업도 하고 있는것과 마찬가지
와 컴퓨터 사양 좋아야하나요?
젠장... ㅠㅠ 램64기가 이어야하다니 램부족...
@비버팩토리 속도가 중요하지 않으면 램 16기가면 충분합니다.
속도가 중요하다면, 그래픽카드 램 16기가가 되어야 합니다.
비디오 카드 메모리가 꽤있어야 하지 않을까요? 시스템 메모리를 좀 가져오긴 하겠지만..전 외장 그래픽 메모리가 6기가라 돌아갈지 모르겠네요ㅜㅜ
왜 난 가난할까? ㅠㅠ
@우륵 https://ollama.com/download 설치해보시고, 모델은 gemma3:1b 선택해보세요.
와우. 좋은 정보 감사합니다. 구글 무료 서버에서도 돌려도 되나요?