chatgpt api 연동시 좋은 성능을 내기 위해선 GPT-4 가 좋습니다.

 이건 비용이 너무 비싸서 사용자 대상 서비스에선 적합하지 않습니다. 

gpt-3.5 의 경우 api 비용은 저렴하지만, 컨텍스트 생성 수준이 좋지 않습니다.

gpt-3.5 api는 프롬프트를 정교하게 작업하더라도 결과가 별로이고,  대화를 이어가는 수준도 별로입니다.

 

비용을 저렴하게, 사전 프롬프트를 늘리고, 생성 컨텐츠나 응답의 수준을 높히는 방법중 하나는 파인튜닝 모델입니다.

사전에 프로젝트에 준비된 컨텍스트를 선행 학습 시키는 방식입니다. 파인튜닝의 경우 사전 학습할수 있는 토큰이 큰편입니다.

 

가령 그누보드 댓글봇을 만든다면, 기존에 다른 사용자들이 입력한 댓글들의 패턴을 분석하여 비슷한 사용자처럼 행동하는 댓글봇을 만들수 있습니다.

 

암튼 파인튜닝 모델이 비용과 성능이라는 두마리 토끼를 잡는데 좋은 방법인데, 

openai 의 기존 파인튜닝 모델이 별로였습니다.(그냥 예전 gpt3 보다 못한 초기 모델을 사용)

 

오늘 openai 에서 gtp-3.5-turbo 모델을 파인튜닝 모델로 사용할수 있게 되었습니다.

 

적은 비용으로 퀄리티있는 생성형 chatgpt 를 누구나 개발할수 있게되었습니다.

조금 과장해서, 누구나 심심이 정도의 챗봇을 만들수 있게 된것입니다.

 

관련 기사

https://openai.com/blog/gpt-3-5-turbo-fine-tuning-and-api-updates