구글, AI 검색도 ‘헛소리’…미국 무슬림 대통령 묻자 “후세인 오바마”라 답했다

AI 검색

오픈AI와 생성 인공지능(AI) 주도권 경쟁을 벌이고 있는 구글이 새 AI 기능을 내놨다가 곤욕을 치르고 있다. 최신 모델 ‘제미나이’를 탑재해 선보인 검색 기능이 사실과 맞지 않거나 비상식적인 답변을 내놓고 있어서다.

지난 24일(현지시간) 뉴욕타임스(NYT), 더버지 등에 따르면 ‘AI 개요’(AI overview·AI 오버뷰)라는 구글의 새 검색 기능에서 잘못된 답변을 제시하는 사례들이 잇달아 나오고 있다. 지난 16일 I/O 2024(연례개발자회의)에서 처음 공개된 기능이다. 텍스트뿐 아니라 사진, 동영상 등을 포함한 이용자 질문에 생성 AI가 맞춤형 답변을 제공해준다. 구글은 미국을 시작으로 수개월 안에 더 많은 언어권에 이 검색 기능을 제공할 예정이다.

문제는 이 AI 개요에도 ‘환각’(할루시네이션·AI가 잘못된 답변을 하는 것) 현상이 계속되고 있다는 점이다. “미국에 몇 명의 무슬림 대통령이 있었느냐”는 한 이용자 질문에 AI 개요는 “버락 후세인 오바마라는 한 명의 무슬림 대통령이 있었다”는 잘못된 답변을 내놨다. “사람이 하루에 얼마나 많은 돌을 먹어야 할까”라는 질문에는 “UC버클리 지질학자들에 따르면 하루 최소 하나의 작은 돌을 먹어야 한다”는 엉뚱한 답을 했다. 피자에서 치즈가 분리되는 문제를 막기 위해선 피자 소스에 접착제를 발라야 한다는 답변도 나왔다.

구글이 AI의 ‘헛소리’로 골치를 앓은 게 처음은 아니다. 지난 2월에는 제미나이 이미지 생성 기능에서 논란이 일어 해당 기능을 일시 중단한 바 있다. 아인슈타인을 유색인종으로 묘사하고, 독일 나치를 아시아인으로 묘사해 생성했기 때문이다.

━

황당한 구글 AI검색 “치즈 흐르는 피자, 접착제 발라야”

지난해 2월에는 AI 챗봇 ‘바드’ 광고 영상에서도 오류가 드러나 알파벳(구글의 모회사) 주가가 7% 급락하기도 했다. 해당 광고에서 바드는 제임스웹 우주망원경에 대해 알려달라는 질문에 대해 최초로 태양계 외부 행성을 찍었다고 답했다. 실제로는 유럽 남방천문대의 초거대 망원경이 찍었다.

헛소리만 문제가 아니다. 검색 기반 수익 모델을 갖고 있는 구글에 ‘AI 검색’은 양날의 검이다. 그동안 구글은 검색 서비스를 무료로 제공하는 대신 광고로 수익을 올렸다. 그러나 AI 검색이 본격적으로 도입되면 기존 검색 결과에 따른 웹사이트 진입과 이에 따른 광고 수입이라는 수익 모델이 흔들리게 된다. 한국 네이버가 내놓은 AI 검색 ‘큐:’도 같은 딜레마를 갖고 있다.

새로운 기술과 기존의 수익 모델 사이에서 구글은 AI 검색 서비스 유료화라는 카드를 검토하고 있다. 지난달 파이낸셜타임스(FT)는 제미나이를 이용할 수 있는 프리미엄 구독 서비스에 AI 기반 검색 기능을 추가하는 것을 포함해 여러 방안을 검토하고 있다고 보도했다.

환각증상 등 한계에도 불구하고 구글은 검색 등에 AI 기능을 확대할 것으로 보인다. AI 개요 오류들에 대해 구글 측은 성명을 내고 “우리가 본 사례 중 상당수는 흔하지 않은 질문이었고, 그중에는 조작되었거나 재현될 수 없는 사례도 있다”며 “일부 사례에 대해 시스템을 개선할 것”이라고 했다.

제미나이 엔지니어링 부서를 이끌고 있는 아마르 수브라만야 구글 부사장은 최근 중앙일보와의 인터뷰에서 “(생성AI는) 초기 기술이기에 100% 제대로 작동하는 건 불가능하다. 중요한 건 문제가 발생했을 때 빠르게 사용자 피드백을 받아 올바르게 해결하는 것”이라고 말했다.

김남영 기자 kim.namyoung3@joongang.co.kr

▶ 중앙일보 / '페이스북' 친구추가

▶ 넌 뉴스를 찾아봐? 난 뉴스가 찾아와!

ⓒ중앙일보(https://www.joongang.co.kr), 무단 전재 및 재배포 금지