[유틸] LLM AI 로컬에서 실행가능한 포터블 만들기
압축 파일을 USB 저장을 저장합니다.
install.bat 클릭하세요
-
NemoMix Unleashed 12B (~7.0 GB)
-
가장 크고 강력한 모델
-
검열 없는 답변을 원하거나 다양한 주제에 폭넓게 활용할 때 추천
-
단점: 메모리와 성능 요구가 큼
-
-
Dolphin 2.9 Llama 3 8B (~4.9 GB)
-
비교적 가볍지만 여전히 강력
-
대화형 작업에 적합, uncensored 답변 가능
-
-
Mistral 7B Instruct v0.3 (~4.1 GB)
-
코딩에 최적화된 모델
-
개발자라면 코드 작성/디버깅에 유용
-
-
Qwen 2.5 7B Instruct (~4.7 GB)
-
다국어 지원이 강점
-
한국어 포함 여러 언어로 작업할 때 유리
-
-
Llama 3.2 3B Instruct (~2.0 GB)
-
가볍고 빠름
-
성능은 제한적이지만 저사양 환경에서 적합
-
-
Phi-3.5 Mini 3.8B (~2.2 GB)
-
역시 가벼운 모델
-
빠른 응답과 기본적인 작업에 적합
-

사용예시 내가 만든 사이트 보안 취약점 찾을수도 있습니다.

관련하여 취약점을 상세하게 찾을수도 있습니다

최신버전 : https://github.com/techjarves/Portable-AI-USB