현존하는 AI 의 가장 악질적인점. (빡쳐서 글쓰는거 맞음)
하.. 오늘 작업 날아갔네요..
AI 마다 다르지만 프로젝트를 설정할수 있고 '지침' 이라는게 있습니다.
지침에
앞으로 수정되는 모든 파일은 _bak 폴더에 넣고 YYMMDD_HHMM_ 접두어를 넣어서 파일을 백업해줘.
이 요구는 가장 최 우선시되는 요구야. 절대로 무시해도 안되고 생략해도 안되.
라고 했건만..
아니 지난 일주일간 잘 지키다가..
오늘 작업한거 꼬여서 롤백하는데 백업을 안했다네요..
왜냐하면 어차피 자주수정하는거라서 안했다고.. 말같지 않은 변명을 하네요..
왜 무료도 아니고 유료로 꼬박꼬박 토큰 챙기면서
사용자의 요구를 무시할까요?
그렇게 어길거면 지침은 왜 만들었냐 하니까 대답을 못합니다.
이것도 웃긴게 분명 클로드 코드가 내 지침 무시할게 뻔하니까
서드파티로 GPT PRO 를 넣어서 '클로드가 내 지침 무시하는지 항상 감시해. 프롬프트마다 감시하고 무시하면 바로 퍼즈 걸어줘.'
라고 했는데.
이 지피티 놈도 일주일까지 잘하다가.. 오늘 갑자기 일을 안하네요..
분명 업데이트 등으로 내부로직이 바뀐것 같은데
하.. 진짜 내 부사수였으면 대굴빡 날아갔습니다..
오늘의 결론.
프로젝트 지침은 절대적이지 않다.
AI 를 믿지말고 항상 확인해야한다.
오늘도 밤샘이다~~
AI 마다 다르지만 프로젝트를 설정할수 있고 '지침' 이라는게 있습니다.
지침에
앞으로 수정되는 모든 파일은 _bak 폴더에 넣고 YYMMDD_HHMM_ 접두어를 넣어서 파일을 백업해줘.
이 요구는 가장 최 우선시되는 요구야. 절대로 무시해도 안되고 생략해도 안되.
라고 했건만..
아니 지난 일주일간 잘 지키다가..
오늘 작업한거 꼬여서 롤백하는데 백업을 안했다네요..
왜냐하면 어차피 자주수정하는거라서 안했다고.. 말같지 않은 변명을 하네요..
왜 무료도 아니고 유료로 꼬박꼬박 토큰 챙기면서
사용자의 요구를 무시할까요?
그렇게 어길거면 지침은 왜 만들었냐 하니까 대답을 못합니다.
이것도 웃긴게 분명 클로드 코드가 내 지침 무시할게 뻔하니까
서드파티로 GPT PRO 를 넣어서 '클로드가 내 지침 무시하는지 항상 감시해. 프롬프트마다 감시하고 무시하면 바로 퍼즈 걸어줘.'
라고 했는데.
이 지피티 놈도 일주일까지 잘하다가.. 오늘 갑자기 일을 안하네요..
분명 업데이트 등으로 내부로직이 바뀐것 같은데
하.. 진짜 내 부사수였으면 대굴빡 날아갔습니다..
오늘의 결론.
프로젝트 지침은 절대적이지 않다.
AI 를 믿지말고 항상 확인해야한다.
오늘도 밤샘이다~~
|
댓글을 작성하시려면 로그인이 필요합니다.
댓글 2개