[유틸] LLM AI 로컬에서 실행가능한 포터블 만들기

· 2026-04-23 (목) 20:50:38 · 415
USB를 포맷합니다 exFAT  포맷.
압축 파일을 USB 저장을 저장합니다.
install.bat 클릭하세요
1776945449_vhsHvVnqct.webp
  • NemoMix Unleashed 12B (~7.0 GB)

    • 가장 크고 강력한 모델

    • 검열 없는 답변을 원하거나 다양한 주제에 폭넓게 활용할 때 추천

    • 단점: 메모리와 성능 요구가 큼

  • Dolphin 2.9 Llama 3 8B (~4.9 GB)

    • 비교적 가볍지만 여전히 강력

    • 대화형 작업에 적합, uncensored 답변 가능

  • Mistral 7B Instruct v0.3 (~4.1 GB)

    • 코딩에 최적화된 모델

    • 개발자라면 코드 작성/디버깅에 유용

  • Qwen 2.5 7B Instruct (~4.7 GB)

    • 다국어 지원이 강점

    • 한국어 포함 여러 언어로 작업할 때 유리

  • Llama 3.2 3B Instruct (~2.0 GB)

    • 가볍고 빠름

    • 성능은 제한적이지만 저사양 환경에서 적합

  • Phi-3.5 Mini 3.8B (~2.2 GB)

    • 역시 가벼운 모델

    • 빠른 응답과 기본적인 작업에 적합
       

start-windows.bat 클릭합니다.

1777030441_vldKkNIT4I.webp

사용예시 내가 만든 사이트 보안 취약점 찾을수도 있습니다.
1777030865_I2pt0gyIFx.webp
관련하여 취약점을 상세하게 찾을수도 있습니다

1777031056_BjF706jQjN.webp

최신버전 :  https://github.com/techjarves/Portable-AI-USB

첨부파일

2명이 반응했습니다
|
댓글을 작성하시려면 로그인이 필요합니다.

컴퓨터

717건
+
제목 글쓴이 날짜 조회
09-14 조회 14
07-12 조회 213
04-23 조회 416
04-14 조회 326
03-10 조회 388
02-24 조회 396
02-16 조회 501
25-11-10 조회 1,263
25-10-14 조회 749
25-09-28 조회 735
25-09-10 조회 794
25-08-09 조회 647
25-08-06 조회 640
25-07-25 조회 983
25-06-15 조회 780
25-06-08 조회 925
25-06-08 조회 650
25-05-01 조회 875
25-04-29 조회 1,190
25-04-28 조회 886
25-02-12 조회 1,880
25-02-12 조회 967
25-02-10 조회 1,780
25-02-09 조회 2,164
24-12-05 조회 891
24-11-03 조회 1,221
24-10-22 조회 936
24-10-14 조회 940
24-10-12 조회 1,138
24-10-10 조회 1,292