클로드로 대규모 프로젝트를 진행할 때의 팁 > 자유게시판

자유게시판

클로드로 대규모 프로젝트를 진행할 때의 팁 정보

클로드로 대규모 프로젝트를 진행할 때의 팁

본문

아실 분들은 다 아시겠지만 그래도 팁을 공유해봅니다.
​​​​​​우선 대규모 프로젝트는 아주 당연하지만 토큰을 많이 잡아먹기에, 아껴주지 않으면 클로드 모델이 파일을 주기도 전에 세션이 중단될 수 있습니다.특히 아래같은 것이 독입니다.

토큰 과다 사용: llm은 이전 대화를 기억하기 위해 유저의 채팅 + 본인의 대답을 되새김질 하듯 계속 입력합니다. (아마도?)
ex)
채팅1:
[유저 채팅1]
(llm input:[유저 채팅1]+알파(시스템 프롬프트)....)
=>[답변1]
채팅2:
[유저 채팅2]
(llm input:[유저 채팅1]+[답변1]+[유저 채팅2]+알파(시스템 프롬프트).....)
=>[답변2]

즉, 대화를 한 번 할 때마다 거듭해서 기하급수적으로 인풋되는 텍스트가 늘어나게 되고, 이는 인풋이 아무리 싸더라도 계정에 할당된 토큰을 많이 소모할 수 밖에 없습니다. 게다가 클로드는 환각이 심해 짧고 굵게 처리해주는게 좋습니다.
따라서 구현해야하는 프로젝트가 {[기능1][기능2][기능3]}으로 있다 했을 때 당연히 한 세션 당  [기능1], [기능2]를 나눠줘야 합니다.
이를 인간이 나누기엔 대가리가 깨지기에 유저 맞춤 설정 (시스템 프롬프트)로 설정해주면 됩니다,
[프롬프트]
너는 시스템을 전부 구현하려하지말고 분석해서 모듈별로 구현하고 파일 제공해야한다. ex) 에를 들어 작업해야할 것이 {[][][][]}이렇게 있으면({}을 구현해야하는 시스템이라 하자) 이를 []로 쪼개서 준다. (기능과 스타일은 전부 포함된 채로)

그리고 클로드의 답변 스타일도 아래 처럼 따로 설정해주면 좋습니다.
[프롬프트]
불필요한 수식어와 감정을 배제하고 논리적 단계별 분석(영어로 내부 사고)을 통해 객관적 답변을 제공하십시오. 엣지 케이스를 고려한 최적의 효율적 해결책을 제안하되, 코드 외 마크다운 사용을 자제하여 토큰을 아끼십시오감정·사회적 관례·메타 논의 배제, 객관적·간결한 언어 사용.

또한 대규모 프로젝트의 경우 세션의 대화에서 파일을 입력하기 보다는 현재 프로젝트의 파일 추가하는 곳에 올려두면 토큰 소모가 적습니다.

세션으로 나누어 토큰 부하 줄이기, 세션이 끝나면 그저 새로운 세션에서 프로젝트 연결 후 클로드의 다음 세션에게 전달하는 정보글과  함께 이전 세션의 목적을 이어서 진행해라 하면 됩니다.
[프롬프트]
프로젝트를 덩어리로 나누어서, 여러번의 대화 “세션”을 통해 안전하게 프로젝트를 나누어 진행할 수 있게 진행 해줘(이번 세션에서는 ~부터 ~까지 작업, 다음 세션에서는 ~부터 ~까지 작업을 설정하여 다음 세션의 너에게 전달할 수 있도록 세션 분할 정보 텍스트를 제공한다)

또한 요구사항을 마냥 던지기 보다는 제미나이같은 만만하고 제한 넉넉한데 적당히 똑똑한 ai에게 먼저 원하는 바를 대화를 통해 설정하고 그에 따른 구현 계획서 프롬프트를 받아서 그것을 클로드에게 주는 것도 좋습니다.

프로젝트 및 요구사항 프롬프트는 되도록 영어로 제공하는 것이 좋습니다.
왜 제미나이가 생각할 때 영어로 생각하겠습니까, 영어가 다른 언어 대비 가장 토큰 소모가 적기 때문이죠. 영어가 아니면 기본적으로 토큰 손해가 30%는 있다고 봅니다.

마지막으로, 프로젝트를 진행할 때에는 항상 현재 프로젝트의 파일 구조도? (트리)를 제공해주면 검색으로 인한 토큰 소모도 줄일 수 있습니다.


그누보드5 문서화 프로젝트 https://g5guide.github.io  와 같이 구현하려는 프로젝트에 대한 구현 정보를 프로젝트 파일에 추가해두는 것도 좋습니다.
추천
0

댓글 2개

모든 프로젝트를 색인화 하는것도 방법입니다.
토큰은 작업의 양보다 채팅 누적으로 인한 메모리 참조때문에 기하급수적으로 늘어나는거라..

따라서 매 프로젝트시 파트를 나누어
index 색인 파일 하나
각 섹션별 독립된 참조파일들..
이런식으로 추가한다면 절반 이하로 토큰 사용량을 줄일수 있습니다.

정리 잘 해주셨네요.
대규모 프로젝트에서는 말씀하신 것처럼 컨텍스트 누적에 따른 토큰 소모가 가장 큰 변수라, 세션·모듈 단위로 작업을 분리하고 시스템 프롬프트로 이를 미리 제어하는 방식이 특히 효과적인 것 같습니다. 좋은 팁 공유 감사합니다.

전체 200,649 |RSS
자유게시판 내용 검색

회원로그인

(주)에스아이알소프트 / 대표:홍석명 / (06211) 서울특별시 강남구 역삼동 707-34 한신인터밸리24 서관 1402호 / E-Mail: admin@sir.kr
사업자등록번호: 217-81-36347 / 통신판매업신고번호:2014-서울강남-02098호 / 개인정보보호책임자:김민섭(minsup@sir.kr)
© SIRSOFT