GPU 자원을 공유하는 Talos 프로젝트
🚀 프로젝트 소개
Talos는 GPU 자원을 공유하여 인공지능 모델의 추론 작업을 수행하는 클라이언트입니다. 사용자는 자신의 Talos 계정과 연결하여 WebSocket을 통해 작업을 처리하고, 가동 시간을 보고하여 수익을 올릴 수 있습니다.
✨ 주요 기능
- GPU 자원 공유 및 수익 창출
- WebSocket을 통한 실시간 작업 처리
- 로컬 대시보드를 통한 상태 모니터링
🛠️ 기술 스택
이 프로젝트는 Python으로 개발되었으며, Ollama와 NVIDIA GPU를 활용하여 인공지능 모델의 추론 작업을 수행합니다.
💡 활용 방법
개발자는 Talos 클라이언트를 설치하고 자신의 GPU를 연결하여 인공지능 모델의 추론 작업을 수행함으로써 수익을 올릴 수 있습니다.
📄 Original (English)
GPU worker client for the Talos network. Pairs with your Talos account, serves open-model inference jobs over a WebSocket, and reports uptime for payouts.
Talos worker
Share your GPU with the Talos network and earn. This is the downloadable
client (intended to live in its own public GitHub repo, talos-worker). It
pairs with your Talos account using a code, then serves open-model inference
jobs from the network via your local Ollama, reporting
uptime and earning a share of real usage revenue.
The Talos web app never imports this repo. The two only talk over the network: a device code to pair, then jobs and heartbeats over a WebSocket.
Requirements
- Python 3.9+
- Ollama running locally with at least one model pulled,
e.g.
ollama pull llama3.1:8b - NVIDIA GPU recommended (detected automatically; CPU also works)
Install
MIT License