카

[유틸] LLM AI 로컬에서 실행가능한 포터블 만들기

· 2026-04-23 (목) 20:50:38 · 444
USB를 포맷합니다 exFAT  포맷.
압축 파일을 USB 저장을 저장합니다.
install.bat 클릭하세요
1776945449_vhsHvVnqct.webp
  • NemoMix Unleashed 12B (~7.0 GB)

    • 가장 크고 강력한 모델

    • 검열 없는 답변을 원하거나 다양한 주제에 폭넓게 활용할 때 추천

    • 단점: 메모리와 성능 요구가 큼

  • Dolphin 2.9 Llama 3 8B (~4.9 GB)

    • 비교적 가볍지만 여전히 강력

    • 대화형 작업에 적합, uncensored 답변 가능

  • Mistral 7B Instruct v0.3 (~4.1 GB)

    • 코딩에 최적화된 모델

    • 개발자라면 코드 작성/디버깅에 유용

  • Qwen 2.5 7B Instruct (~4.7 GB)

    • 다국어 지원이 강점

    • 한국어 포함 여러 언어로 작업할 때 유리

  • Llama 3.2 3B Instruct (~2.0 GB)

    • 가볍고 빠름

    • 성능은 제한적이지만 저사양 환경에서 적합

  • Phi-3.5 Mini 3.8B (~2.2 GB)

    • 역시 가벼운 모델

    • 빠른 응답과 기본적인 작업에 적합
       

start-windows.bat 클릭합니다.

1777030441_vldKkNIT4I.webp

사용예시 내가 만든 사이트 보안 취약점 찾을수도 있습니다.
1777030865_I2pt0gyIFx.webp
관련하여 취약점을 상세하게 찾을수도 있습니다

1777031056_BjF706jQjN.webp

최신버전 :  https://github.com/techjarves/Portable-AI-USB

첨부파일

총 2명이 반응했습니다
|
댓글을 작성하시려면 로그인이 필요합니다.

컴퓨터

718건
+
제목 글쓴이 날짜 조회
09-26 조회 117
09-14 조회 37
07-12 조회 240
04-23 조회 445
04-14 조회 346
03-10 조회 407
02-24 조회 433
02-16 조회 529
25-11-10 조회 1,326
25-10-14 조회 758
25-09-28 조회 750
25-09-10 조회 815
25-08-09 조회 657
25-08-06 조회 655
25-07-25 조회 1,019
25-06-15 조회 796
25-06-08 조회 942
25-06-08 조회 667
25-05-01 조회 894
25-04-29 조회 1,208
25-04-28 조회 907
25-02-12 조회 1,939
25-02-12 조회 978
25-02-10 조회 1,829
25-02-09 조회 2,222
24-12-05 조회 910
24-11-03 조회 1,238
24-10-22 조회 958
24-10-14 조회 965
24-10-12 조회 1,154