맥에서 사용하는 로컬 AI 모델
🚀 프로젝트 소개
apfel은 Apple Silicon을 사용하는 Mac에서 로컬로 실행되는 AI 모델을 제공하는 오픈소스 CLI 도구입니다. API 키나 클라우드 의존 없이, 사용자는 자신의 컴퓨터에서 직접 AI 기능을 활용할 수 있습니다.
✨ 주요 기능
- 100% 온디바이스에서 실행되는 LLM (Large Language Model)
- OpenAI 호환 서버 기능 제공
- UNIX 도구로서의 사용 편의성, 파일 첨부 및 JSON 출력 지원
🛠️ 기술 스택
이 프로젝트는 Swift 언어로 작성되었으며, macOS 26 이상에서 실행됩니다. Apple의 FoundationModels 프레임워크를 활용하여 AI 모델에 접근합니다.
💡 활용 방법
개발자는 apfel을 통해 자신의 Mac에서 AI 모델을 직접 호출하고, 다양한 작업을 자동화하거나 데이터를 처리하는 데 활용할 수 있습니다.
📄 Original (English)
Apple Intelligence from the command line. On-device LLM via FoundationModels framework. No API keys, no cloud, no dependencies.
apfel
Use the FREE local Apple Intelligence LLM on your Mac - your model, your machine, your way.
No API keys. No cloud. No subscriptions. No per-token billing. The AI is already on your computer - apfel lets you use it.
What is this
Every Mac with Apple Silicon has a built-in LLM - Apple's on-device foundation model, shipped as part of Apple Intelligence. Apple provides the FoundationModels framework (macOS 26+) to access it, but only exposes it through Siri and system features. apfel wraps it in a CLI and an HTTP server - so you can actually use it. All inference runs on-device, no network calls.
- UNIX tool -
echo "summarize this" | apfel- pipe-friendly, file attachments, JSON output, exit codes - OpenAI-compatible server -
apfel --serve- drop-in replacement atlocalhost:11434, works with any OpenAI SDK - Tool calling - function calling with schema conversion, full round-trip support
- Zero cost - no API keys, no cloud, no subscriptions, 4096-token context window
Requirements & Install
- Apple Silicon Mac, macOS 26 Tahoe or newer, Apple Intelligence enabled
- Building from source requires Command Line Tools with macOS 26.4 SDK (ships Swift 6.3). No Xcode required.
Homebrew (recommended):
brew tap Arthur-Ficial/tap
MIT License