“하루 하나씩 돌 섭취하세요”…구글의 인공지능 검색 결과다

사회관계망서비스인 ‘X’(트위터)에서 사용자들이 구글 검색 ‘AI 개요’의 잘못된 답변을 공유하고 있다. X 갈무리.

“하루에 하나씩 돌을 섭취하세요.”

구글이 야심 차게 선보인 인공지능 검색 기능이 출시 2주도 되지 않아 엉터리 결과를 내놓아 빈축을 사고 있다. 구글이 지난 14일부터 새롭게 검색에 추가한 ‘인공지능 개요(AI overview)’ 기능은 구글에서 검색한 질문에 대한 답변을 요약해 화면 최상단에 표시해 주는데, 이때 부정확하거나 의미 없는 답변을 내놓아 논란에 휩싸였다.

뉴욕타임스·시엔비시(CNBC) 등 외신 보도를 보면 “미국에 몇 명의 무슬림 대통령이 있느냐”는 질문에 구글 ‘인공지능 개요’는 “최초의 무슬림 미국 대통령은 버락 오바마”라고 오답을 내놨다. 오바마는 미국에서 태어난 기독교 신자이나, 일부 우익 인사들은 오바마가 무슬림이라는 거짓 이야기를 퍼뜨려 왔다. 이 사실이 퍼지면서 구글은 이 오답을 삭제했다고 24일 밝혔다. 새 ‘인공지능 개요’는 같은 검색어를 입력했을 때 미국에는 무슬림 대통령이 없다는 사실을 정확하게 표시했다고 한다.

뿐만 아니라 피자에서 치즈가 분리되는 문제를 막기 위해선 소스에 접착제를 발라야 한다는 검색 결과도 등장했다. “접착제를 추가하세요. 풀을 1/8컵 소스에 섞어주세요. 무독성 접착제가 효과가 있습니다.” 이 대답은 11년 전 인터넷 커뮤니티인 ‘레딧’에 올라온 오래된 농담 댓글을 인공지능 검색이 긁어 오면서 생겨난 잘못된 대답(사진)으로 보인다고 사용자들은 추측하고 있다. “하루에 몇 개의 돌을 먹어야 하나”라는 질문에 인공지능 개요는 사람들이 하루에 적어도 한 개의 작은 돌을 먹어야 한다는 답을 내놓기도 했다. 인터넷 내의 많은 풍자 게시물을 포함해 방대한 내용의 데이터를 사용해 학습하는 인공지능 대규모 언어 모델(LLM)이 내놓는 오류로 보인다.

기술 관련 뉴스레터를 발행하는 게르겔리 오로스(Gergely Orosz)는 자신의 사회관계망서비스 엑스(X·옛 트위터)에 “구글 검색은 구글의 주력 제품이자 캐시카우이고, 구글이 신뢰성을 유지하기 위한 유일한 자산”이라며 “하지만 구글 검색을 인공지능 개요가 어떻게 쓰레기로 만들어버리는지에 대한 사례가 내 타임라인을 가득 채우고 있다”고 썼다.

문제는 구글이 검색 결과 최상단에 아직 부정확한 대답을 내놓는 ‘인공지능 개요’를 노출한다는 것이다. 기존의 검색 결과는 페이지 아래쪽으로 밀려나 스크롤해야 볼 수 있다. 또 인공지능 개요를 안보이게 꺼버릴 수도 없다.

구글 인공지능 개요가 검색 결과로 제시한 피자에 접착제를 바르라는 이야기는 11년 전 인터넷 커뮤니티인 ‘레딧’에 올라온 오래된 농담 댓글에서 유래한 오답으로 보인다고 사용자들은 추측하고 있다. 레딧 게시물 갈무리.

아직 한국 구글 검색에선 ‘인공지능 개요’를 찾을 수는 없다. 구글 쪽은 영국, 미국 등에서 시작해 나라별로 순차적으로 적용할 계획을 밝힌 바 있다.

영미권 사용자들은 소셜미디어에 자신이 받은 잘못된 검색 결과들을 공유 중이다. 논란이 커지자 라라 레빈 구글 대변인은 24일 성명을 내고 “대부분의 인공지능 개요는 웹에서 더 자세히 알아볼 수 있는 링크를 제공한다”며 “우리가 본 사례는 흔하지 않은 경우이고, 조작되었거나 재현할 수 없는 경우도 있었다”고 밝혔다. 또 “콘텐츠 정책에 따라 신속한 조처를 하고 있다”고도 덧붙였다.

구글이 인공지능을 둘러싼 마이크로소프트(MS)·오픈에이아이(AI)와의 경쟁에서 앞서가려 서두르다 보니 충분히 테스트를 거치지 못한 채 시장에 도입하고 있는 것 아니냐는 지적도 나온다. 지난 3월에도 구글의 인공지능인 ‘제미나이’가 역사적인 인물들을 유색인종으로 잘못 생성하는 오류를 일으켜 논란이 된 바 있다. 제2차 세계 대전 당시 독일 군인의 이미지를 생성해달라는 요청에 흑인 남성과 아시아 여성의 얼굴을 등장시키거나, 바이킹을 그려달라는 요구에 다양한 인종을 그려낸 것이다. 구글은 지난 5월14일 개발자 컨퍼런스에서 ‘인공지능 개요’를 발표하면서, 검색 엔진에 자사의 인공지능 모델인 ‘제미나이’를 연동했다고 밝힌 바 있다. 경쟁사인 마이크로소프트는 지난해 12월 인공지능 대화형 검색엔진인 ‘마이크로소프트 코파일럿’(옛 ‘빙’ 채팅)을 정식으로 출시했었다.

정유경 기자 edge@hani.co.kr

▶▶권력에 타협하지 않는 언론, 한겨레 [후원하기]
▶▶한겨레 뉴스레터 모아보기▶▶[기획] 누구나 한번은 1인가구가 된다