요즘 클로드 코드... 메모리를 엄청나게 먹네요..
최근들어서 클로드 코드를 돌리다보면 메모리 부족 현상이 생기기 시작했습니다.
48G 메모리를 풀로 사용하는 경우가 보이더라구요...
그러다보니 맥북 업그레이드 욕구가 생기기 시작하면서 알아보고 있습니다 ㅠㅠ
----
이 현상을 느끼면서
클로드가 모델을 PC에서 돌릴일은 없을테고
이제 클로드의 뇌 용량?을 메모리에 때려넣고 컨텍스트에만 의존하지 않고
메모리와 같이 활용하는 기술을 넣은것 같습니다.
예전에는 아무리 많이 돌려도 메모리 차지를 많이 안했거든요..
총 1명이 반응했습니다
|
댓글을 작성하시려면 로그인이 필요합니다.
댓글 3개
속도차이가 나고, 토근도 절약되요
옆에 놀고 있는 리눅스 데탑이 있는데 한번 테스트 해봐야 겠네요