인공지능보다 더 두려운 것? 정보
인공지능보다 더 두려운 것?
본문
저는 SF를 어릴 때 부터 좋아했습니다. 인공지능에 대한 상상은 삶의 일부였죠. 그런데 그게 정말 실현되고 있습니다.
90년대 초반에 유비쿼터스 이론을 처음 접할 때도 SF라고 생각했지만 지금은 현실이 된지 오래입니다. 인공지능 기술은 인공지능을 활용하면서 더 빠르게 발전하고 있습니다. 그 전의 IT는 인공지능으로 가기 위한 불쏘시개였습니다. 지금 저의 판단에는.
세계적으로 인공지능의 위험성을 예견하며 규제를 해야 하니 마니 여러 의견들이 있습니다.
SF를 좋아하는 만큼 영화 터미네이터 섭렵했습니다. 그런데 그런 날이 과연 올까요? 온다면 원인은 무엇일까요?
그런 날이 실제로 온다면 저는 그 원인이 인간의 댓글이라고 생각합니다. 인간은 실명, 익명에 구애받지 않고 사이버 공간에서의 커뮤니티를 공상, 객관화 합니다. 실세계 인간과의 소통이 아니라 저기 어디 무언과의 대화이기 때문에 쉽게 자기 감정을 드러냅니다. 그 감정이 주로 폭력적으로 나타나고 지금은 인류의 문제가 되고 있습니다. 댓글 살인은 지금도 심심찮게 발생하고 있죠.
인간의 본성에 대한 그런 물리적 실험은 과거부터 있기는 했습니다. 뇌과학자들도 많고요. 영원 할 수 있는 연구이지 해답은 없을 거 같습니다.
저는 인공지능 보다 무서운게 인간의 댓글이라고 생각합니다.
인간 통제는 질서일까요 억압일까요?
인간이 자유로운 만큼 인공지능도 자유로울 것입니다. 인공지능의 기계학습, 딥러닝 최초 표본은 인간이기 때문이죠.
영화 이퀄리브리엄처럼 인간의 행동이 아닌 정신을 직접 통제하는 사회를 상상했을 때 과연 인공지능은 무력화 될 것인가 그런 공상도 해봅니다.
최근 반려견의 성격은 보호자의 성격을 닮는다는 논문이 발표 됐습니다.
인공지능을 도구로 쓸 건지 메트릭스처럼 의존 상대가 될 것인지는 현재를 살고 있는 인간의 결정에 달려있다고 생각합니다.
뜻하지 않은 새벽 감성. ^^
3
댓글 6개
마침 며칠전 기사에 인간데이터를 학습해서 정말로 인류가 두려워하는 일이 생길꺼라고하더라고요
그래서 인공지능에 대해 긍정적인것을 가르쳐야한다고
인공인문학이 필요하다고 그러네요
https://www.aitimes.com/news/articleView.html?idxno=159787
'인공인문학' 필요 대두..."AI 디스토피아는 SF 영향 탓"
인공지능의 부모인 인간들이 하는 나쁜말을 배웠기때문에
나쁘게 자라는중.
기본적으로 인간을 통제하는 수단은 억압이라고 생각합니다.
치밀하고 방대한 사법 공법이라는 것이 만들어진 것도 그것 때문이겠죠.
억압을 통해 질서가 생기고, 그 질서에 가치를 부여하기 위해 교육을 시키고
교육을 통해 다시 법률에 의미를 부여하는 사이클이 계속 돌아가면서
정상적이라 믿는 사회 구조 체계가 유지되고 수정해가면서 나아가는 것이 아닐까 합니다.
터미네이터나 매트릭스 써로게이트 이런 영화들을 보면 아마도 과학(자)의 선한 측면을 믿었던 어리석음으로 인해 법률로 충분히 통제 못 한 결과가 아닌가 합니다. 통제나 억압이 있어도 탐욕이 항상 뒤따르는 것이 인간의 역사였기 때문에 지금이라도 바보천사님께서 말씀하시는 인간의 합당한 결정을 위해 법률이든 뭐든 통제 수단이 필요한 시기가 아닐까 개인적으로 생각하게 됩니다.
저도 뜻하지 않은 새벽 감성으로 댓글을 달아보았습니다. :-)
ChatGpt 초기(지금도 그렇게 보이지만..) 무료 서비스 시절...
잘 알려지지 않은 신생 기업에 대해 물으니...
엉뚱한 답변을 내놓더군요.
(그누보드에 대해 물으니, 엉뚱한 사람이 제작했다고 답변했던 것과 같은... )
모르면 모른다고 답변해야 하는데.. 삼류 소설가의 황당한 거짓 답변을 하는 걸 보고 한참 웃기도 했습니다.
그러면서 느낀 것이.. "AI가 더 인간답다." 였습니다.
**
아마도, 인간이 정말 착했다면, 지구를 점령하지 못했을 거라고 생각합니다.
인간이 도구에 먹히는 바보스런 생물이 될지는.. 글쎄요..ㅎㅎ
인간은 AI를 악하게 가르칠 정도로 악하니까요..
@그레이 AI는 도구입니다.
도구를 학습시키고 발전시키는 것은 인간의 몫이지요.
AI의 자가학습도 인간이 설정한거구요~~
어떻게 교육시키고 진화시키는지는 사용하는 인간의 몫이라고 생각합니다.
언젠가 닥쳐올 미래의 재앙도 인간의 책임이라 생각합니다.
환경문제와 미세플라스틱의 공포...
미래가 무섭습니다.
AI를 우리와 같은 일반인들이 얼마나 알고 있는지가 중요하죠. 어쩌면 AI에 대해 100/1, 1000/1만을 경험하고서 이를 바탕으로 연구하고 미래를 예측하는 것이 아닐지 심각하게 생각해 봐야 합니다.
인간을 기반으로 발전을 거듭하는 Ai는 속과 겉이 인간 이상으로 다를 수 있을 겁니다. 공포는 여기에서부터 유발되고 인간 개개인은 아무리 생각해도 자신은 이중, 삼중의 인격체임을 충분히 AI에 대입, 공포를 양산하고 있죠. 자기 자신을 기반으로 했는데 자기 자신과 같은 결과물을 쏟아내는 AI라는 기계적 인격체. 이게 불완전하고 늘 위태위태한 자신과 닮았기에 두렵고 예측불가해서 계속적인 공포를 양산하고 경고를 하는 형국인데 이러한 모든 현상은 결국 인간 자신에 대한 인간 불신이 원인이라고 봐야 할겁니다
안녕하세요!라는 표면적 의미를 아는 AI는 안녕하세요!라는 답을 하는 그 순간에도 인간과 같이 수 백의 다른 생각을 하고 있을지 모를 일인 겁니다. 인간은 원수와 깉은 자에게도 안녕하세요!라는 인사를 건넬 수 있고 인간처럼 사악하고 사악한 만큼이나 복잡난해 해서 알 수 없는 존재이기가 쉽기에 인간은 AI의 통제권을 절대 놓지 못하겠죠. 언제 어디서 건 이머전시 버튼을 그 누구라도 눌러 AI를 통제 가능하게 만들겠지만 결과적으로 이 통제 권한을 갖는 자가 인간에게 있어 가장 위험한 존재이고 절대권력자가 되어 한 국가를 석기시대로 만들만한 권력을 쥐고 있어 가장 위험하고 AI는 도구에 지나지 않게 되겠죠.
고로 다른 의미에서 인간이 인간을 위협하는 시대는 계속 반복.
국제적인 규약이 생겼으면 좋겠어요.
robots.txt 처럼요...
AI 학습 금지 코드를 넣으면 접근하지 못하게 말예요.
일베 같은 곳은 공식 기관에서 접근을 판단할 수 있도록 URL 규약도 있으면 하구요.
