로컬 LLM 돌려본 결과.

GPU: GeForce RTX 4070 Ti SUPER

후기 :
요즘은 워크스페이스 폴더만 열어두면, AI가 그냥 다 알아서 해주는 agent mode 시대이기 때문에, agent mode 가능한 도구만 테스트 하였습니다.

결론 :
본인이, AI를 24시간 구동하거나, AI 서비스를 만들 것이 아니라면, 유료 구독 도구를 사용하는 것이 나아보입니다.

첨부파일

cr1.mp4 (4.7 MB)
0회 다운로드 2026-02-08 00:41
d1.mp4 (6.2 MB)
0회 다운로드 2026-02-08 00:57
1명이 반응했습니다
|

댓글 2개

근데 저렇게 셋팅하면 완전한 로컬이라고 볼수 없지않나요?
잼민이가 개입하면 로컬이 아닌데...
저는 맥북 프로로 로컬 LLM 돌려봤었는데 저정도로 답답하진 않았습니다.

쓸만한 정도는 되었는데
그정도 쓸만해서 뭐하겠나요..ㅎㅎ

적당히 쓸만한거 써서 돌고돌아 시간버리고 할바에는..
그냥 돈내고 빠르게 작업하는길을 택해야 겠다고 생각이 들더라구요

특수한 경우 아니면 로컬 LLM은 이제 고려대상이 아니게 되었습니다 ㅎㅎ
댓글을 작성하시려면 로그인이 필요합니다.

AI

+
제목 글쓴이 날짜 조회
2주 전 조회 317
2주 전 조회 147
2주 전 조회 130
2주 전 조회 119
2주 전 조회 166
2주 전 조회 185
2주 전 조회 136
3주 전 조회 195
3주 전 조회 125
3주 전 조회 198
3주 전 조회 181
3주 전 조회 141
3주 전 조회 183
3주 전 조회 143
3주 전 조회 215
3주 전 조회 226
3주 전 조회 179
3주 전 조회 258
3주 전 조회 237
4주 전 조회 203
4주 전 조회 141
4주 전 조회 194
1개월 전 조회 190
1개월 전 조회 275
1개월 전 조회 157
1개월 전 조회 260
1개월 전 조회 172
1개월 전 조회 164
1개월 전 조회 196
1개월 전 조회 171