로컬 LLM 돌려본 결과.

GPU: GeForce RTX 4070 Ti SUPER

후기 :
요즘은 워크스페이스 폴더만 열어두면, AI가 그냥 다 알아서 해주는 agent mode 시대이기 때문에, agent mode 가능한 도구만 테스트 하였습니다.

결론 :
본인이, AI를 24시간 구동하거나, AI 서비스를 만들 것이 아니라면, 유료 구독 도구를 사용하는 것이 나아보입니다.

첨부파일

cr1.mp4 (4.7 MB)
0회 다운로드 2026-02-08 00:41
d1.mp4 (6.2 MB)
0회 다운로드 2026-02-08 00:57
1명이 반응했습니다
|

댓글 2개

근데 저렇게 셋팅하면 완전한 로컬이라고 볼수 없지않나요?
잼민이가 개입하면 로컬이 아닌데...
저는 맥북 프로로 로컬 LLM 돌려봤었는데 저정도로 답답하진 않았습니다.

쓸만한 정도는 되었는데
그정도 쓸만해서 뭐하겠나요..ㅎㅎ

적당히 쓸만한거 써서 돌고돌아 시간버리고 할바에는..
그냥 돈내고 빠르게 작업하는길을 택해야 겠다고 생각이 들더라구요

특수한 경우 아니면 로컬 LLM은 이제 고려대상이 아니게 되었습니다 ㅎㅎ
댓글을 작성하시려면 로그인이 필요합니다.

AI

+
제목 글쓴이 날짜 조회
2주 전 조회 330
2주 전 조회 149
2주 전 조회 134
2주 전 조회 123
2주 전 조회 172
3주 전 조회 190
3주 전 조회 141
3주 전 조회 199
3주 전 조회 127
3주 전 조회 201
3주 전 조회 183
3주 전 조회 143
3주 전 조회 184
3주 전 조회 144
3주 전 조회 219
3주 전 조회 227
3주 전 조회 183
3주 전 조회 262
4주 전 조회 240
4주 전 조회 207
1개월 전 조회 142
1개월 전 조회 194
1개월 전 조회 191
1개월 전 조회 277
1개월 전 조회 158
1개월 전 조회 262
1개월 전 조회 172
1개월 전 조회 164
1개월 전 조회 199
1개월 전 조회 171