ChatGPT를 이제 개인PC에서 구동할 수 있습니다! 정보
ChatGPT를 이제 개인PC에서 구동할 수 있습니다!
본문
ChatGPT 오픈소스 모델이 공개되었습니다.
다운받아서 설치해봤는데요. 품질이 아주 훌륭하더군요.
토큰 걱정 없이 고품질의 AI 서비스를 구축가능한 시대가 되었습니다.
2
베스트댓글
@우륵 https://ollama.com/download 설치해보시고, 모델은 gemma3:1b 선택해보세요.
댓글 14개
예전의 포토샆처럼 자기의 피시에 설치하는 것인가요?
컴퓨터의 성능도 중요하겠네요.
@김철용 https://lmstudio.ai/ 이 프로그램인듯 싶네요
@김철용 설치해보세요~ https://ollama.com/download
m4 맥북 프로 64G 가 있어야 할것 같네요. 적당한 핑계거리가 생긴..
이건 다 일때문에 어쩔수 없이 구매하는겁니다.
@솔그루 20b 모델은 24G정도 되어야하는것 같아요
제가 보았을때는 이런 로컬 시장이 훠~얼~씬 크긴합니다.^^
대부분의 회사에서 온라인 LLM을 못쓰게 하거든요
그래서 실제 B2B 솔루션 만들면 이런 로컬 LLM 서버를 구축해서 써야 하는데
그 성능이 최신 LLM에 못미치다 보니 보급이 잘 안되었는데
이런게 많이 나오면 어느정도 성능을 타협 하면서 서비스 개발이 가능할것 같네요
대신 개인은 무조건 온라인 쓰는게 이득입니다. ㅋㅋ
저거 팽팽 돌아가는 서버 구축하는데 수천에서 1억까지 깨질텐데
그 돈이면 최신 AI 구독해서 사용하는게 좋죠^^
궁굼증1) 토큰걱정없이 PC에서 고품질로 돌아가면 얘네는 모먹고살죠?
@크론이 하드웨어 사양이 필요하기 때문에, 호스팅 사업으로 먹고살것 같아요.
워드프레스는 오픈소스이지만, 웹호스팅 서비스 사업도 하고 있는것과 마찬가지
와 컴퓨터 사양 좋아야하나요?
젠장... ㅠㅠ 램64기가 이어야하다니 램부족...
@비버팩토리 속도가 중요하지 않으면 램 16기가면 충분합니다.
속도가 중요하다면, 그래픽카드 램 16기가가 되어야 합니다.
비디오 카드 메모리가 꽤있어야 하지 않을까요? 시스템 메모리를 좀 가져오긴 하겠지만..전 외장 그래픽 메모리가 6기가라 돌아갈지 모르겠네요ㅜㅜ
왜 난 가난할까? ㅠㅠ
@우륵 https://ollama.com/download 설치해보시고, 모델은 gemma3:1b 선택해보세요.
와우. 좋은 정보 감사합니다. 구글 무료 서버에서도 돌려도 되나요?
