[유틸] LLM AI 로컬에서 실행가능한 포터블 만들기
USB를 포맷합니다 exFAT 포맷.
압축 파일을 USB 저장을 저장합니다.
install.bat 클릭하세요

사용예시 내가 만든 사이트 보안 취약점 찾을수도 있습니다.

관련하여 취약점을 상세하게 찾을수도 있습니다

최신버전 : https://github.com/techjarves/Portable-AI-USB
압축 파일을 USB 저장을 저장합니다.
install.bat 클릭하세요
-
NemoMix Unleashed 12B (~7.0 GB)
-
가장 크고 강력한 모델
-
검열 없는 답변을 원하거나 다양한 주제에 폭넓게 활용할 때 추천
-
단점: 메모리와 성능 요구가 큼
-
-
Dolphin 2.9 Llama 3 8B (~4.9 GB)
-
비교적 가볍지만 여전히 강력
-
대화형 작업에 적합, uncensored 답변 가능
-
-
Mistral 7B Instruct v0.3 (~4.1 GB)
-
코딩에 최적화된 모델
-
개발자라면 코드 작성/디버깅에 유용
-
-
Qwen 2.5 7B Instruct (~4.7 GB)
-
다국어 지원이 강점
-
한국어 포함 여러 언어로 작업할 때 유리
-
-
Llama 3.2 3B Instruct (~2.0 GB)
-
가볍고 빠름
-
성능은 제한적이지만 저사양 환경에서 적합
-
-
Phi-3.5 Mini 3.8B (~2.2 GB)
-
역시 가벼운 모델
-
빠른 응답과 기본적인 작업에 적합
-

사용예시 내가 만든 사이트 보안 취약점 찾을수도 있습니다.

관련하여 취약점을 상세하게 찾을수도 있습니다

최신버전 : https://github.com/techjarves/Portable-AI-USB
첨부파일
총 2명이 반응했습니다
|
댓글을 작성하시려면 로그인이 필요합니다.