Deepseek 모델 로컬 환경에서 사용하기 정보
Deepseek 모델 로컬 환경에서 사용하기
본문
하드웨어 스펙
CPU: AMD Ryzen™ 5 5600X(160,000\)
GPU: GeForce RTX 3060Ti(310,000\)
RAM: DDR4 32G(80,000\)
=====================
합계: 800,000\
=====================
참조URL: Deepseek 모델 로컬 환경에서 사용하기
여러 '딥시크 로컬 사양' 에 대한 글을 참조하고 내린 결론인데 너무 과하게 하드웨어에 투자하기에는 조금 이르고 이정도면 그래도 문안하지 않나 싶습니다.
보안이 걱정되시면 로컬에 깔아 탈옥시켜 사용하세요. 굳이 탈옥까지는....
-------------------------
글 두 세번 쓰니 딥시크 광신도처럼 보여지는 듯 해서ㅎㅎㅎ 남기는 글인데 달에 한 두어번 사용하는 AI인데 저는 3사 모두 유료플랜으로 쓰고 있고 그 가격에 그리 부담을 느끼지 않고 부당하다는 생각을 하지 앖습니다.
-------------------------
그냥 오픈소스? "그누보드가 오픈 소스라 보안이 허술하다?" 이거 딥시크 사태와 준해 머리굴리면 "그누보드 보안이 허술해 개인정보 탈취우려" 이런 경우가 되는 거죠. 너무 과도하게 선을 넘어 생각할 필요는 없고 '딥시크+애플" 이런 구도면 "응 좋은 기업~!" 이런 이중적 스텐스가 되는 겁니다. 제가 보기에는 애플이 굳이 딥시크와 손잡을 필요는 없어 보이기도 하구요(손 잡으려 했음)
그리고 그누보드로 사이트 만들어 방문자들 키보드 패턴 실시간으로 저장하려면 예전부터 무지 간단했어요? 물론 그누보드가 없어도 가능하고 다른 언어를 써도 가능한 일이죠. 이 글을 쓰고 있는 저를 리자님이 특별 관리를 한다 치면 그냥 두개폼 입력을 동기화 시켜 놓고서 한쪽만 공개하면 됩니다? 다른 한 쪽에는 글과 함께 시차까지 등록되겠죠? 근데 그거 가져다 어디에 쓰나요? 마케팅 활용이 다임.
딥시크 정도 만드는 사람이 그런 저 수준의 트릭으로 전세계인들에게 빨대를 꼽는다...ㅎㅎㅎㅎ이거 생각 자체가...암튼 좀 그렇네요.
미국이야 딥까 이유는 다분하죠? 미국내 IT업계 주가 하락 속도가 광속이고 20%대로 달려가는데?(솔직히 30% 진입했으면 뱅크런 사태 재현되지 않았을 까요?) ㅎㅎㅎ 천문학적인 돈을 들여 삼성이 신제품 생산했는데 중국이 같은 제품 "몽땅 100원"하면 전쟁하자는 거죠? 물론 소프트웨어니 가능한 상황이겠지만요.
딥시크 쇼크 아니면 샘 알트먼은 삼성도 중소기업으로 봤던 사람이었다는 걸 명심하세요.
터지니 바로 왔죠? 저는 이런 이유에서 국뽕을 한다면 환영입니다.ㅎㅎㅎ
요약하자면 이번 딥시크 쇼크는 중국이 미국 빅엿을 먹인 사례가 맞고 다분이 감정적이었죠. 그리고 딥시크로 중국이 전세계인을 상대로 개인정보 유출을 유도한다는 가정하에 기획을 했다면 딥시크 개발자 몇 놈 개인정보 탈탈털어 숙청하고서(마윈도 경제불구 만들었음) 이 기술을 미국국적으로 만들어 미국내에 서버를 두는 것이 맞다 봅니다. 그럼 아마 지금쯤 미국돈으로 개인정보 잔치를 하고 있겠죠. 중국발 딥시크 쇼크는 일종의 중국이란 나라의 자신감이라 봐야죠.
"이정도는 까도 미국이 중국에 대해 큰 저항을 하지 못함?"
이게 더 무섭고 괘씸하다 생각해야 사태의 본질을 본다 저는 생각합니다. 샘알트먼이 주가도 어느 정도 회복했는데 전세계 경제인들 투어를 하는 이유는 이 사태가 향후 되돌릴 수 없는 충격으로 올거란 거고 사실 되돌리기에도 힘든 상황인거죠. 수 차례 언급하지만 오픈소스입니다. 서버가 중국에 있어서 개인정보 당연하게 넘어 갈 거구요. 그 개인 정보를 누군가 복사를 하면 그건 탈취고 일정기간 보관했다 삭제를 한다면 정상인 내용인데 굳이 중국이 미국 빅엿을 먹이고서 딥시크 폭파할 명분을 미국에 준다는 생각은 이건 좀....
제 글이 충분히 설득적이지 못 하고 학식또한 일천해서 권위가 없는 글이라지만 어차피 충격적으로 뒤바뀐 환경에서 국내 AI발전이 시급하게 이루워졌으면 하는 바램입니다. 아마 아프리카.중남미 지역은 지금쯤 AI오아시스를 만난듯 잔치를 하고 있을 듯 한데 이런 상황에서 샘 알트먼의 오픈AI라는 기업은 미국에서 회계조사 하지 않은 걸 다행이나 천운으로 알아야겠다 싶네요.
8
댓글 19개
AI를 매일 사용하다 보니 유료 플랜이 크게 부담되진 않지만,
월 1~2회 정도 사용하는 경우라면 로컬에서 직접 돌리는 것도 좋은 선택이겠네요.
덕분에 Deepseek 로컬 환경 구축 방법을 떠올려 보게 됩니다.
딥러닝 모델을 운용하려면 하드웨어 스펙이 중요한데,
3060Ti 정도면 부담 없이 테스트하기에 적당한 선택 같습니다.
@glitter0gim 새것도 좀 과하고 중고 30~40만원 정도면 추론 가능한 AI를 영구적으로 혼자 쓰는 거에요. 물론 한글 문제가 있기는 하지만 방법을 찾아 보니 이 또한 가능한 일이었구요. 님 글을 빌려 다른 내용을 적자면 주요관공서나 IT관련 대기업에서 AI사용을 금지 하는 건 무능력한 사람이 업무 퍼포먼스를 ai도움으로 내서 인사평가에 혼선을 주지 말라는 내용이 아닌 보안상의 문제입니다. 이런 내용을 툴의 도움을 받는 건 반칙이고 천재들이 모였으니 날코딩이 철칙이라는 식으로 우쭐해서 오해하면 그건 좀 짧은 생각인거죠. 위험하다는 겁니다. ai사용을 위해 해당 서버에 접속해서 업무를 본다는 의미는 너무너무 위험하기에 그런거죠. 이런 관점에서 현생하는 ai서비들을 정보탈취를 목적으로 한 서비스?라 하지는 않고 있죠.
딥시크 개인정보 탈취에 관한 기사를 보면 탈취코드가 하드코딩 되어져있다. 라는 부분이 많이 눈에 들어 옵니다. 국내 언론들은 이 하드코딩과 소프트 코딩에 대한 이해 조차 없어 보이는데 이점이 저는 안타깝더라구요.
딥시크 내용을 이제 게시물로 올리지 말아야겠습니다. 사실 웹이라는 곳에서 미국까면 미국여행 자체가 막히는 일이 다반사라 위험한 짓이기도 하구요. 트럼프 만세!
Gothrock 님 의견에 전적으로 동의합니다.
앞으로 미중간에 ai 싸움이 볼만해 보입니다.
딥시크 전에는 하도 언론이나 유튜브에서 미국이나 중국외는 범용ai는 하기 힘들다고 해서 우리나라는 틈새시장만 가능할거라 생각이 들었는데 딥시크가 나오면서 아주쬐금 희망을 가져보게 되었습니다.
@수평선1203 K딥시크 장착이 이미 완료되었다 생각합니다. 이제 교육일선에서 학교들마다 우수한 추론이 가능한 자체 AI로 외부망을 끊어 놓은 상태에서 안전하게 교육할 수 있다는 사실인데 지금의 여론을 생각하자면 참 아이러니한 상황인거죠. 그리고 영세기업들에게도 길이 열린 일 같습니다. 100만원 이하대의 컴퓨터로 정확한 추론을 적용하여 생산라인에 대한 재정비가 가능해진거죠. 궁국적으로 개인정보나 국가 정보가 딥시크로 인해 더 넘어가기 힘든 구조라는 생각은 저만의 생각은 아닐거라 생각합니다.
'딥싴'은 단순한 기술적 도구가 아니라,
중국이 미국과의 패권 전쟁에서 전략적으로 활용하는 자산이 되었네요!
한국도 이번 기회를 잘 활용해 AI 기술 개발에 적극 나서야 할 때가 아닌가 싶습니다!
@glitter0gim 이게 패권 싸움만 아니면 전환점이 될만한 일인데 미국 눈치를 보느라 단속과 주의들만 하고 있으니 문제내요.
딮xx 모텔 환경에서 사용하기...로 잘못보고... 기대하고 클릭했네요. ㅎㅎㅎ
이놈의 음란마귀 시각세포를 어찌하면 좋을지... ㅠㅠ
@쪼각조각 다음주 mt2박 있습니다. 물론 홀로요~
유머도 맥락이 맞아야 효과가 있지않나 싶습니다. ㅠㅠ
@glitter0gim 윗분 말씀이시라면 보이지 않는 개그공감을 하는 그런 사이 입니다.ㅎㅎㄹ
@glitter0gim 어? 저한테 하신 이야기였나요?:-) 앞으론 직접 언급해주셔도 괜찮아요. 아니면 모르고 지나칠 것 같아요. 굉장히 맥락을 잘 지키는 편인데... 글쓴이가 워낙 유머러스한 분이시라... 상상이 되어서 그만 ㅠㅠ 앞으로는 자제하겠습니다.
@쪼각조각
. 아닙니다.
분위 파악을 못하고 즉흥적인 댓글을 단 저의 불찰을 깊이 뉘우칩니다.
두 분, 죄송합니다.
요즘 저도 딥시크에 대한 뉴스를 많이 보는데 참 다양한 기술들이 많이 나오면 좋겠습니다.
@하늘뚱 이미 물고가 터진 상태인데 다들 조심하라는 말 외는 다른 말씀들아 없어 비전문가가 한마디 했네요.
추가 학습도 한번 테스트 부탁 드려요 ㅎㅎ
그누보드 코드를 좀 학습 시켜보면 어떨까도 싶네요
@똥싼너구리 다음주 출장 끝나고나 한번 돌려보고 올려보겠습니다.
전적으로 동의합니다. 그저 반중에 매몰되서 까내기에 바쁠께 아니라, 우리도 AI 관련 RND에 투자하고 기술발전에 집중해야 할 텐데요.
천안문 질문이나 하고 시진핑 욕이나 하고 있으니 한심할 따름입니다. 그거 욕한다고 우리가 잘사는 것도 아닌데 말이죠.
@메이드 딥시크가 나오고서도 전혀 긴장을 하지 않은 채 그저 '부정'만 우리나라가 조금 부끄럽다는 생각이 들었습니다. 전만인들이 아닌 분들이야 그런다 치지만 IT가 현업이신 분들 조차 딥시크의 내용을 보지 않고 네거티브 선전에 휘둘리니....혐오를 하는 대상 보다는 더 높은 위치에 있거나 좋은 입장에 있는 사람이 혐오를 해야 하는 게 아닐까 합니다.
