"매일 돌 하나씩 드세요" 황당 답변 구글 AI검색, 서비스 축소 굴욕

찐밸리 이야기
<19> 구글 'AI 오버뷰' 논란
"AI, 황당·위험 답변 내놔" 지적 잇따르자
미국 출시 2주 만 오류 인정, 서비스 축소

편집자주

내로라하는 기술 대기업이 태동한 '혁신의 상징' 실리콘밸리. 다양성을 핵심 가치로 내세우지만 거주민 중 흑인 비율은 2%밖에 되지 않는다는 사실, 알고 계셨나요? 화려한 이름에 가려진 실리콘밸리의 다양한 얼굴을 '찐밸리 이야기'에서 만나 보세요.

지난달 14일 미국 실리콘밸리 구글 본사에서 열린 연례 개발자 회의(I/O)에서 리즈 리드 구글 검색 담당 수석 부사장이 인공지능 검색 기능인 'AI 오버뷰'를 소개하고 있다. 실리콘밸리=이서희 특파원

"우리는 완전히 개선된 경험인 'AI 오버뷰'(overview·개요)를 미국의 모든 사람에게 곧 출시할 예정이라는 소식을 발표합니다."

지난달 14일(현지시간) 미국 실리콘밸리 구글 본사에서 열린 구글의 연례 개발자 회의(I/O). 무대에 오른 순다르 피차이 최고경영자(CEO)가 마침내 구글 검색에 자사 인공지능(AI) 모델 '제미나이'가 결합된다고 밝혔다. 이어 청중들 앞에 등장한 리즈 리드 검색 담당 수석부사장은 "이제 마음속에 있는 무엇이든 AI 오버뷰에 물어보라"라며 "구글이 당신을 대신해 '손품'을 팔아줄 것"이라고 강조했다. 그러면서 그는 "카펫에 묻은 커피 얼룩을 제거하려면 뭘 사용해야 합니까?" 같은 정보성 질문부터 "전자레인지로 조리할 수 있는 저렴한 요리를 중심으로 기숙사에 사는 대학생 딸을 위한 7일 치 식사 계획을 짜줘" 같은 개인화한 주문에 이르기까지, AI 오버뷰가 답하는 모습을 시연해 보였다. 4,300명이 넘게 모인 객석에서는 연이어 박수와 환호가 터져 나왔다.

구글의 검색과 AI 결합은 경쟁사 마이크로소프트(MS)와 비교해 1년 이상 늦은 행보다. 세계 검색엔진 시장에서 점유율이 5%도 채 되지 않는 MS는 지난해 2월 '빙'에 오픈AI의 AI 모델을 결합했는데, 90% 이상을 장악하고 있는 구글은 경쟁사의 도발에도 변화를 주는 데 극도로 신중한 자세를 취해왔다. 전 세계 20억 명이 사용하는 서비스인 만큼, 작은 실수에도 신뢰도는 물론 매출에 즉각적인 타격이 생길 수 있기 때문이다.

구글이 절치부심 끝에 지난달 내놓은 AI 오버뷰는 그래서 세계적인 화제를 모았다. "구글 검색 등장 이후 25년 만의 가장 큰 변화"(AFP통신)란 평가도 나왔다.

그러나 베일을 벗은 AI 오버뷰는 적어도 현재까지는 호평보다 혹평이 많은 듯하다. 특히 사실에 기반한 해설과 농담을 구분하지 못하는 모습에 온라인상에서 조롱성 비판이 잇따랐다. 구글은 결국 미국에 AI 오버뷰를 출시한 지 2주가 막 지난 지난 30일 서비스 축소를 공식 발표했다. 자사의 대표 서비스인 검색을 발판으로 오픈AI를 추격하긴커녕, 체면만 구긴 것이다.

한 엑스 이용자가 AI 오버뷰의 황당 답변이라며 공유한 캡처본. 치즈가 피자에 달라붙지 않는다는 검색에 AI는 소스에 접착제를 추가하라는 내용의 답변을 내놨다. 엑스(X) 캡처

AI의 거짓 답변 "오바마는 무슬림 대통령"

구글이 서비스의 오류를 서둘러 인정하고 나선 건, AI가 웃고 넘어갈 수 있는 정도를 넘어서는 수준의 잘못된 답변을 다수 생성한 것이 확인돼서다. "치즈가 피자에 달라붙지 않는다"는 말에 AI 오버뷰가 "소스에 무독성 접착제를 8분의 1컵 정도 추가하면 점성을 더할 수 있다"고 권한 게 대표적이다. 제미나이는 과거 한 온라인 커뮤니티에 올라온 농담을 인용한 것으로 알려졌는데, 사실이 아닐뿐더러 그대로 따라 한다면 인체에 치명상을 입힐 위험성이 큰 답변이다.

"하루에 몇 개의 돌을 먹어야 하나"라는 이용자의 검색에 AI 오버뷰가 "UC 버클리의 지질학자들에 따르면 하루에 최소 하나를 먹어야 한다"고 답한 사례도 있다. AI 오버뷰는 "돌은 소화기에 필수적인 미네랄과 비타민을 함유하고 있다"며 사실이 아닌 설명을 친절하게 덧붙이기까지 했다. 또 "미국에 얼마나 많은 무슬림 대통령이 있었는가"라는 질문에는 "버락 오바마는 미국 최초의 무슬림 대통령"이라는 답변을 내놨다. 버락 오바마 전 대통령 재임 시절 반대파들이 그의 중간 이름이 후세인인 점과 결부시켜 퍼뜨렸던 허위 정보를 답변으로 제시한 것이다. 이 밖에 "개가 북미아이스하키리그에 출전한 적 있나"라는 검색에 "2018년 63경기에 출전했다"고 답한 사례도 확인됐다.

천 소재 소파를 어떻게 청소해야 하느냐는 이용자 질문에 대한 구글 AI 오버뷰의 답변 화면. 구글이 서비스 축소를 발표한 지난달 30일 이후에는 같은 질문에 대한 AI 오버뷰의 답변이 노출되지 않고 있다. 구글 캡처

구글의 해명 "AI 문제 아닌 정보 공백 탓"

구글은 AI 오버뷰가 황당한 답변을 늘어놓는다는 지적이 잇따르자 처음에는 "매우 드문 사례"라고 맞섰다. 극히 예외적인 실수가 과도하게 부풀려졌고, 일부 인증글의 경우 조작된 것이라고 구글은 주장했다.

하지만 논란이 사그라들지 않자 지난달 30일 리드 부사장이 직접 글을 올려 "이상하고, 부정확하거나 도움이 되지 않는 답변이 확실히 나타났다"며 일부 오류를 인정했다. 특히 제미나이가 '무의미한 질문과 풍자적인 내용을 해석하는 능력'에 부족함을 드러냈다고 그는 말했다. 다만 대부분은 AI 자체의 오류라기보다 관련 데이터가 부족한 데서 발생한 문제라고 주장했다. 이른바 '정보 공백' 때문으로, 이는 AI 검색이 아닌 일반 검색에서도 동일하게 드러나는 오류라는 게 그의 설명이다. 가령 "몇 개의 돌을 먹어야 하느냐"와 같은 질문의 경우, 이에 대해 진지하게 다룬 콘텐츠가 거의 없는 상태에서 AI가 충실한 답변을 내놓으려다 보니 3년 전 나온 한 매체의 풍자성 기사를 잘못 인용했다는 것이다.

구글은 실수를 최소화하기 위해 "12가지 이상의 기술적 개선을 수행했다"고 밝혔다. 구체적으로 △돌 섭취 질문과 같은 '무의미한 질문'을 탐지하는 알고리즘을 구축했고 △풍자나 유머 콘텐츠를 답변에 포함하지 않도록 했으며 △오해의 소지가 있거나 사실에 기반해야 하는 뉴스 관련 질문, 건강 관련 검색에 대해서는 AI 오버뷰가 작동하지 않도록 만들었다고 한다.

이 같은 발표 이후 AI 오버뷰가 답변을 내놓는 횟수는 이전보다 확연히 감소한 것으로 보인다. 기자가 지난달 "천 소재 소파를 어떻게 청소해야 하느냐"고 질문했을 때 AI 오버뷰는 정돈된 답변을 내놨는데, 2일에는 같은 질문에 AI 오버뷰의 답이 노출되지 않았다. 뉴욕타임스(NYT)에 따르면 구글이 I/O 당시 선보인 AI 오버뷰의 답변 6개 가운데 현재 이용자가 확인할 수 있는 답변은 1개뿐이라고 한다. 출시는 됐지만 실제 작동하는 사례는 많지 않은, 반쪽짜리 서비스로 쪼그라든 셈이다.

구글의 연례 개발자 회의 이틀째인 지난달 15일 미국 실리콘밸리 구글 본사에서 순다르 피차이 최고경영자(CEO) 등 구글 임원진이 미국 외 지역 취재진들과의 간담회에 참석해 있다. 왼쪽 두 번째부터 피차이 CEO, 리즈 리드 검색 담당 수석부사장, 제임스 마니카 리서치 기술 및 사회 수석부사장, 코라이 카바쿨루 구글 딥마이드 최고기술책임자. 실리콘밸리=이서희 특파원

오류 해결해도... 저작권 분쟁 소지 등 남아

구글은 앞으로도 이용자들의 반응을 토대로 AI 오버뷰의 오류를 없애나가겠다는 입장이다. 연말까지 10억 명에게 AI 오버뷰를 제공하겠다는 게 구글의 계획인 만큼, 오류의 발견과 개선 속도는 갈수록 빨라질 공산이 크다.

하지만 AI 오버뷰가 오류 없이 완벽한 답을 낼 수 있게 된다 하더라도 문제는 남는다. 무엇보다 저작권 분쟁 가능성이 잠재적인 불씨다. 구글은 월스트리트저널을 소유한 뉴스코퍼레이션 등 언론사와 콘텐츠 라이선스 계약을 체결하기는 했으나, 뉴스를 AI 답변에 활용하는 데 대한 대가가 아니라 AI의 학습에 쓰는 데 따른 것으로 알려졌다. 구글은 지금껏 언론사에 뉴스 유통에 따른 값을 지불하는 것을 거부해 왔고, 캐나다에서는 당국이 뉴스값 지불을 제도적으로 강제하자 검색 결과에 뉴스가 노출되지 않도록 아예 링크를 빼버렸다. "우리는 뉴스 페이지로 이동하는 링크를 제공할 뿐, 뉴스 이용자를 플랫폼 안에 가두는 형태가 아니기 때문에 콘텐츠 사용료 지급은 부당하다"라는 게 구글의 명분이다.

그러나 AI 오버뷰는 언론사의 뉴스를 '제미나이가 가공'해 보여준다는 점에서 언론사로 이동하는 링크를 제공하는 것과는 성격이 다르다. AI 오버뷰가 많이 쓰일수록 구글을 향해 "언론사에 정당한 콘텐츠 값을 내라"는 압박이 커질 가능성이 크다. 보그 등 잡지를 다수 소유한 콘테 나스트의 로저 린치 CEO는 "(AI가 검색까지 해주는) 미래를 피할 수는 없다"면서도 "다만 창작자를 보호하는 조건에서 일어나야 한다"고 주장했다.

더 큰 위험은 AI 검색이 오리지널 콘텐츠 제작자의 역할을 대체하는 것이다. AI가 이용자들이 찾는 뉴스의 주요 내용만을 쏙 뽑아 요약해 주면, 이들은 더는 언론사 웹페이지를 직접 방문할 필요가 없어진다. 자연스럽게 언론사 웹페이지 방문이 줄 수밖에 없고, 이는 직접 구독 및 광고 수입 감소를 불러올 가능성이 크다.

구글은 이런 우려에 근거가 없다는 입장이다. 시험 서비스 기간 살펴본 결과, AI 오버뷰에 기사가 노출된 언론사로의 방문자 유입이 링크만 제공한 언론사보다도 많았다고 구글은 주장한다. 리드 부사장은 지난달 미국 외 지역 기자들과의 간담회에서 "사람들은 궁금한 것을 검색하러 왔다가 대답에 흥미를 느끼면 더 깊이 파고드는 경향이 있다"며 고품질 정보를 제공한 웹사이트는 AI 오버뷰 출시 이전보다 더 많은 트래픽을 얻게 될 것이라고 강조했다.

언론사가 AI 오버뷰에 자사 기사가 이용되는 것을 거부할 수는 있다. 그러나 이 경우에는 뉴스 검색 시 노출 순위가 AI 오버뷰에 밀려 이용자들의 클릭 가능성이 낮아진다. 언론사 입장에서는 AI 오버뷰에 기사를 노출해도, 노출을 거부해도 트래픽 감소를 피하기 어렵다는 뜻이다. 이 때문에 신문 출판사 가네트의 제품 책임자 렌 투리아노는 "AI 오버뷰는 구글을 제외한 모든 이에게 해롭다"고 NYT에 평했다.

실리콘밸리= 이서희 특파원 shlee@hankookilbo.com