i

인공지능과 할루시네이션

· 2026-05-11 (월) 02:30:53 · 283 · 3

메인으로 제밌니와 클로두두두두 쓰고 있는데 말이죠.
할루시네이션은 심각(?)하네요.
문제는 이게 지금은 첵 할 수 있는 상황인데... 어느 시점에 도달하면 우리 인간이 첵 불가능한 수준에
이를 듯 합니다.
지금은 틀리거나... 틀렸는데도 우기기 시전하는 수준이라면...
차후엔 수를 쓰며 기만하는 수준이거나 그 이상이 될 듯 하네요.
효율성 측면에선 이런 저런 약점 감안해도 너무 파괴력적이긴..한데..
어느 시점에선 기만으로 끝나진 않을 듯 하고... 의존의 선을 넘어 사용할 수 있는 여건이나 될 것인지도
의문이긴 합니다.

한 달 정도 전에... 클로드에 코딩을 해서 세부 분석 시.. 표면적인 부분과는 달리 내부 개판이라..
하나 둘 점검(무식하게 하나씩)해보니.. 기가 찰 노릇이긴 하더군요.
이걸 역으로 또 제밌냐에게도 분석을 의뢰했더니... 기가 차게도 틀리더군요.
틀리는 부분이 겹치기도 하고.. 서로 다른 부분에서 엉터리가 나오기도 하고..

지금은 너무 보입니다.
코딩이나 전문적 영역이 아니라 자료 수집 및 분석 요약 리포팅시켜놓으면..
꽤 잘하는 구석도 있긴 합니다만..
도려 재밌냐는 구독형... 위로 갈 수록 엉터리의 형식이 노골화되기도 하네요.
이젠 플래쉬란 버전을 패스트로 해서... 유료 사용자에겐 3파트 정도로 분류해 자신들의 자원의
효율성은 꾀하면서 제약과 불명확성은 더 방치하는 느낌도 있네요.

이 모든 것이 올해와 내년 사이의 에이전시AI의 일반화로 이어지며 그 실용가치는 올라가며 더불어
상당한 기만 행위가 보이게 보이지 않게 나타날 꺼 같네요.
AGI와 ASI 및 그 이상의 뭔가가 출현하는 과정에서...

 
|

댓글 3개

내부코드를 안 살펴보면 엉망으로 코드를 제공해주는 경우가 많습니다
저는 아직...
구독하는게 없네요...ㅎ
아직은 살아가는데 필요성을 못 느낍니다.
거짓말 이라고 하기는 어렵고요
그냥 ai 를 팔아 먹으려고 ai 개발 기획자가
무조건 적인 조건을 줘서 그런거죠
 
댓글을 작성하시려면 로그인이 필요합니다.

자유게시판

203,026건
+
제목 글쓴이 날짜 조회
05-11 조회 247
05-11 조회 284
05-10 조회 333
05-10 조회 286
05-10 조회 222
05-10 조회 340
05-10 조회 266
05-09 조회 279
05-09 조회 312
05-09 조회 261
05-09 조회 240
05-09 조회 284
05-09 조회 1,110
05-09 조회 227
05-09 조회 208
05-09 조회 236
05-08 조회 282
05-08 조회 279
05-08 조회 450
05-08 조회 284