NVIDIA 젯슨으로 로컬 LLM으로 보안 자동화 프로젝트를 진행중인데...
로컬 LLM 돌리려면 최고사양 뽑아야 한다며 사달라고 해서 승인 받았습니다 ㅎㅎ;;
택배가 기다려 지겠네요!!
총 2명이 반응했습니다
|
댓글을 작성하시려면 로그인이 필요합니다.
댓글 18개
LLM 80모델 한번 테스트 해주세요.
만약, 버벅 거리지 않으면 저도 장바구니에 있는 것 구매할려구요.
80모델은 좀 힘들다고들 하던데...
실전코딩님의 결과물이 기대됩니다.
지금 48G 메모리 인데
상위모델 한번 돌렸더니 메모리 부족으로 노트북이 멈춰버려서 테스트를 못했거든요 ㅎㅎ
요즘 엔비디아 엣지 디바이스에 llm 돌려서
클로드 만큼은 아니더라도 성능을 어느정도는 뽑아낼수 있도록 연구하는 중입니다.
여러 모델을 돌려보고 최적화된 모델을 선정또는 개발해야해서요
배송 주소가 잘못 기재되어 연락 드렸습니다.
아래 주소로 반송 부탁드립니다.
저런 하이엔드? 고 원 화 상품을 플렉스 하시다니 ㅠㅠ
전 .... 맥미니 엠포 깡통형 ㅜㅜ
축하드려용
어쩔? 수? 없?이? 샀습니다 ㅎㅎ
서울에 기업과 같이 하는 사업분야가 따로 있는데
잘나가는 서울 기업의 대표님께 승인 받았습니다 ㅎㅎ
부산 내려갈 일이 안생겨서 놀러를 못가보네요. 서울에 오실때 메세지 한번 주세요.
서울 어디쯤 계신가요?
일단 저는 판교는 자주가는데 일정때문에 서울 올라갈일은 잘 없어서요..ㅎㅎ
판교도 좋습니다. ^^ 연락 주시면 커피 한잔 얻어 마시러 들리겠습니다.