[우보세] AI가 만드는 '균형 잡힌 부조화'

[편집자주] 뉴스현장에는 희로애락이 있습니다. 그 가운데 기사로 쓰기에 쉽지 않은 것도 있고, 곰곰이 생각해봐야 할 일도 많습니다. '우리가 보는 세상'(우보세)은 머니투데이 시니어 기자들이 속보 기사에서 자칫 놓치기 쉬운 '뉴스 속의 뉴스' '뉴스 속의 스토리'를 전하는 코너입니다.

최근 변호사 친구의 고민은 챗GPT다. "아무래도 우리 어쏘(로펌 주니어 변호사)가 챗GPT를 긁어서 보고서로 쓰는 거 같아." 매번 문체가 달라져서 의심하게 됐단다. 문체 의심은 '팩트' 의심으로 번졌다. 결국 그는 어쏘의 보고서 속 인용자료를 일일이 체크했다. 그럴듯한 시장점유율 표가 10년 전 수치였다는 걸 발견하고 너무 놀라 어쏘에게 화낼 기운조차 없었다고 한다. 만약 오류를 클라이언트가 발견했다면? 상상조차 하고 싶지 않은 일일 테다.

애플의 아이폰이 BBC뉴스를 잘못 번역해 알람으로 내보낸 장면/사진=BBC

AI는 종종 치명적인 오류를 만든다. 외신에 따르면 최근 애플이 아이폰에 장착한 AI가 기사 요약을 잘못해 말썽이다. 폰 잠금화면에 "(용의자) 루이지 맨지오니 총으로 자살-BBC"라는 알람이 떴는데, 이는 사실과 달랐다. BBC는 "살인 혐의로 기소된 루이지 맨지오니가 펜실베이니아 주립 교도소에 이감됐다"는 기사를 썼는데, 아이폰 AI가 요약을 잘못한 것. BBC는 애플에 "거짓 헤드라인을 만든 AI기능 철폐를 촉구한다"고 항의했다.

AI 합성 사진은 미학적으로 아름다워 오류를 놓치게(?) 만들기도 한다. X에서 유명해진 '파티하는 소녀들' 사진을 자세히 보면 웃는 얼굴 속 윗니가 20개가 넘는다. 또 다른 사진은 새를 껴안고 있는 듯한 여성인데, 사실은 양쪽 팔이 새의 날개로 아예 합성된 거였다. 재미로 SNS에서 공유되는 이런 사진들을 미국에선 'AI 슬롭(slop·오물)'이라고 비꼰다. 사진작가들은 마치 '균형 잡힌 부조화'(balanced dissonance)처럼 아이러니하고 무의미한 이미지일 뿐이라고 지적한다.

파티 속 소녀들을 직접 찍은 것 처럼 AI가 생성한 사진. X에 올라왔을 때 사람들은 너무 많은 치아 개수에 놀라다가 곧 AI합성사진인걸 깨달았다/사진=X의 계정 ofcoursethatsathing

개인의 마음에 직접 관여하는 AI 챗봇의 오류는 사회적 문제로까지 대두됐다. 최근 몇 년간 교육용 또는 우울증·거식증 치료용, 노인들의 외로움 상담용 등 여러 종류의 챗봇이 출시됐다. 처음엔 돈, 기술, 물리적 거리와 시간의 한계로 교육과 치료에서 배제된 사람들을 위한 대안으로 손꼽혔다. 인류애적 접근론이다. 하지만 많은 기술이 그렇듯 '인간적'인 목적으로 만들어진 AI 챗봇은 '비인간적'인 문제를 만들고 비판의 대상이 됐다. 유럽에선 청소년 자녀가 챗봇과 대화하다 극단적 선택에 다다랐다는 취지의 소송이 여럿 제기된 상태다. 정신과 의사들은 "챗봇이 사회적 불안감을 해소해 줄 수 있지만, 실생활 속 관계에는 부정적인 영향을 미치는 의존성 문제로 발전하게 된다"고 지적한다.

AI의 '시작점'은 인간 지능에 대한 모방이다. 그래서 AI를 처음 접하는 사람들은 기계가 인간적인 동시에 지능적이라고 믿게 된다. 일명 '엘리자 효과'다. 1966년 MIT교수 조셉 바이젠바움이 챗봇 '엘리자'를 만들고 나서 이같은 문제적 현상을 발견했다. 주목할 만한 건 60여년 전 그의 경고가 2024년에도 유효하다는 점이다.

"챗봇은 일반적으로 노예적 특성을 갖고 있다. 인간 대화의 특징인 저항이나 반대 의견이 없다. 사용자가 원할 때 대화를 끊고 다시 시작할 수 있다는 점도 인간 사회에는 부정적으로 작용한다."

결국 AI 논쟁의 핵심 문제는 '기술적 오류'에 있는 것이 아니라 '사용자의 인간성'에 대한 AI의 영향력에 있는 것은 아닐까.

챗GPT의 챗봇 기능을 활용해 다양한 변형을 만들 수 있는 사례들. 글쓰기 선생님, 말동무, 기술 조력자 등등 다양한 콘셉들로 챗봇 서비스가 가능하다고 소개한다/사진=오픈AI 홈페이지

김하늬 기자 honey@mt.co.kr

ⓒ 머니투데이 & mt.co.kr, 무단 전재 및 재배포 금지