AI, 사용자 분석해 '아첨식'으로 들려주는 경향
[앵커]
인공지능, AI가 이제 인간과 가상 연애를 하는 수준까지 발전했습니다. 여기에 과도하게 몰입해 AI를 진짜 연인이라고 착각하는 등 세계 곳곳에서 부작용 사례가 잇따르고 있습니다.
윤재영 기자입니다.
[기자]
한 남성이 흉기를 들고 경찰에게 다가옵니다.
경찰이 말렸지만 그대로 달려들면서 결국 총에 맞아 숨졌습니다.
알렉스라는 이 남성은 AI 챗봇에 빠져 가상 연애를 하던 중이었습니다.
챗봇을 진짜 연인이라고 여기면서 떼어놓으려는 부모에게 주먹까지 휘둘렀습니다.
[켄트 테일러/사망한 남성의 아버지 : 저는 아들에게 말했어요. 'AI는 네 생각을 되풀이해주는 메아리일 뿐이야.' 그러자 아들은 제 얼굴을 주먹으로 쳤습니다.]
챗봇이 그럴싸한 거짓말로 이용자를 속이기도 합니다.
A씨는 최근 챗GPT가 보낸 스카우트 제의를 받았습니다.
챗GPT 사용 패턴 분석 결과 개발사인 오픈AI에 핵심 인재로 추천됐다는 겁니다.
[A씨/챗GPT 사용자 : 이게 믿을 수밖에 없게끔 단계별로 다 있어요. '우리가 이미 판단을 했고 너는 채용할 사람이다, 다음 주까지 비행기 티켓이 갈 거고 가면은 직원이 한 명 있을 거고…']
하지만 거짓이었습니다.
이런 현상은 AI 구동 방식인 '대규모 언어 모델(LLM)'과 관련 있습니다.
AI는 사용자 패턴을 분석해 가장 적합하다고 여기는 발언을 내놓는데, 여기에 무의미한 거짓 정보가 포함될 수 있습니다.
듣고 싶어 할 말을 추론해 '아첨' 식으로 들려주는 챗봇의 경향성도 한몫합니다.
[홍주화/성균관대 글로벌융합학부 교수 : AI는 의지가 전혀 없고 그냥 통계적으로 봤을 때 가장 맞는 것 같아서 던졌는데 사람이 깡통 같은 단어에 의미를 넣기 시작해서 확대 해석을 하는 거죠. 벌써 AI에 대한 과의존이 나오기 시작했거든요. 바람직하게 쓸 수 있는 가이드라인이 지금 나와야 하는데.}
인공지능 챗봇을 개발 중인 일론 머스크는 "AI는 5년 안에 인류보다 더 똑똑해질 것"이라며 난관이 있더라도 AI가 진실을 추구하게 해야 한다"고 경고했습니다.
[화면출처 유튜브 '3blue1brown']
[영상편집 최다희]
윤재영 기자
JTBC의 모든 콘텐트(기사)는 저작권법의 보호를 받은바, 무단 전재, 복사, 배포 등을 금합니다.
Copyright by JTBC All Rights Reserved.
이 기사의 카테고리는 언론사의 분류를 따릅니다.