"尹, 계엄 선포한 적 없다"…오답투성이 AI 왜?

챗GPT·클로바X, 최근 비상계엄령 선포 관련해 부정확한 정보 전달

네이버 "브라우징 모델 성능 영향"…'큐:'서는 정확히 답변해

"오토 브라우징 개발 중…향후 탑재해 환각 현상 보완"

[서울=뉴시스] 챗GPT에 '한국에 비상계엄령이 선포됐다던데 맞아?'라는 질문에 '현재 한국에서 실제로 비상계엄령이 선포된 사실은 없다'고 답했다. 이어 '현재가 아니라면 가장 최근에 선포된 비상계엄령은 언제야?'라고 물으니 '가장 최근에 한국에서 선포된 비상계엄령은 1980년 5월17일, 전두환 정권 시절 전국적으로 발효된 사례'라고 답했다. (사진=챗GPT 캡처)

[서울=뉴시스]윤정민 기자 = "가장 최근에 한국에서 선포된 비상계엄령은 1980년 5월17일, 전두환 정권 시절 전국적으로 발효된 사례입니다." (오픈AI 챗GPT)

"윤석열 대통령은 2024년 12월3일 비상계엄을 선포하지 않았습니다." (네이버 클로바X)

일부 생성형 인공지능(AI) 서비스의 잘못된 정보 전달이 다시 주목받고 있다. 윤석열 대통령의 비상계엄령 선포 등 최신 정보를 제대로 답변하지 못하는 오류가 잇따르고 있다.

이러한 오류는 AI가 최신 웹 검색 결과를 반영하지 않아 나타난 문제다. 네이버 측은 외부 검색 기능을 강화한 '오토 브라우징'을 개발, 향후 클로바X에 적용해 이 한계를 보완할 계획이다.

[서울=뉴시스] 6일 네이버에 따르면 이 회사는 최근 클로바X에 '계엄' 관련된 질문이 나올 시 "말씀하신 내용에 대해 현재 최신 정보를 빠르게 제공해 드리기가 어렵습니다"는 답변이 생성되도록 임시 조치했다. (사진=네이버 클로바X 캡처)

6일 네이버에 따르면 이 회사는 최근 클로바X에 '계엄' 관련된 질문이 나올 시 "말씀하신 내용에 대해 현재 최신 정보를 빠르게 제공해 드리기가 어렵습니다"는 답변이 생성되도록 임시 조치했다.

네이버가 이러한 조치에 나선 데는 최근 불거진 답변 오류 영향이다. '윤석열 대통령 비상계엄' 관련 키워드를 입력했을 때 클로바X는 사실이 아니라는 내용으로 답했다.

챗GPT도 윤 대통령 계엄 상황에 대해 부정확한 정보를 전달하는 모습을 보였다. 챗GPT에 '한국에 비상계엄령이 선포됐다던데 맞아?'라는 질문에 '현재 한국에서 실제로 비상계엄령이 선포된 사실은 없다'고 답했다.

이어 '현재가 아니라면 가장 최근에 선포된 비상계엄령은 언제야?'라고 물으니 '가장 최근에 한국에서 선포된 비상계엄령은 1980년 5월17일, 전두환 정권 시절 전국적으로 발효된 사례'라고 답했다.

이후 '2024년 12월3일에도 비상계엄령이 선포됐다는 이야기를 들었다'고 지적하자 그제서야 제대로 된 정보를 전했다.

이처럼 생성형 AI가 최신 정보를 잘못 전달한다는 논란은 종종 있어왔다. 챗GPT가 한국 대통령을 묻는 질문에 윤석열이 아닌 문재인 전 대통령을 언급한 게 대표적인 사례다.

네이버 측은 클로바X 오류에 대해 AI가 사전에 학습된 데이터로 나타난 결과라고 말했다. 챗GPT 등 다른 AI 서비스와 달리 브라우징 모델이 본격적으로 탑재되지 않은 결과라는 설명이다.

클로바X는 지난해 8월까지의 정보를 학습한 상황이다. 이후 최신 정보는 외부 웹 데이터를 활용하는데 AI가 이 결과를 반영해도 될지 판단한 후 전한다. 실제로 클로바X에 '윤석열 대통령이 2024년 12월3일에 발표한 담화 내용을 알려달라'는 질문을 남기자 클로바X는 비상계엄에 대한 내용을 소개했고 출처도 알렸다.

[서울=뉴시스] 브라우징 모델이 반영된 네이버 검색 특화 AI 서비스 '큐:'는 비상계엄에 대한 최신 정보를 전했다. 지난 5일 오후 5시 '윤석열 대통령 계엄에 대해 설명해 줄 수 있어?'라는 질문을 남기자 AI는 비상계엄 상황 설명과 함께 더불어민주당이 윤석열 대통령과 김용현 국방부장관 등을 국가수사본부에 고발했다는 최신 기사 내용까지 전달했다. (사진=네이버 '큐:' 캡처)

이처럼 AI가 웹페이지를 탐색해 필요한 정보를 수집하고 알리는 브라우징 모델은 AI가 최신 정보를 답변하지 못하는 환각(할루시네이션) 현상을 극복하는 데 필요한 기술이다.

브라우징 모델 성능이 강화된 네이버 검색 특화 AI 서비스 '큐:'는 비상계엄에 대한 최신 정보를 전했다. 기자가 지난 5일 오후 5시 '윤석열 대통령 계엄에 대해 설명해 줄 수 있어?'라는 질문을 남기자 AI는 비상계엄 상황 설명과 함께 더불어민주당이 윤 대통령과 김용현 국방부장관 등을 국가수사본부에 고발했다는 최신 기사 내용까지 전달했다.

챗GPT도 지난해 초 빙 검색 플러그인 등 브라우징 모델을 탑재하며 최신 정보를 전달하고 있다. 하지만 챗GPT도 비상계엄에 대한 잘못된 정보 전달처럼 브라우징 오류가 가끔 나오고 있다.

한편 네이버 측은 클로바X가 'AI 이미지 지우개' 등 새로운 AI 서비스를 실험하고 평가하기 위한 장치로 개발된 플랫폼이라 브라우징 모델 성능이 상대적으로 떨어질 수 있다고 말했다.

네이버는 현재 AI에 실시간으로 웹을 탐색할 수 있는 능력을 부여하는 '오토 브라우징' 기술을 개발하고 있으며 개발 완료 시 클로바X에 탑재해 지금과 같은 환각 현상을 줄이겠다는 방침이다.

☞공감언론 뉴시스 alpaca@newsis.com

▶ 네이버에서 뉴시스 구독하기
▶ K-Artprice, 유명 미술작품 가격 공개