라이너, '팩트체크'로 AI 답변 신뢰도 높인다

인공지능(AI) 스타트업 라이너가 자사 서비스 '라이너'에 '팩트 체크하기' 기능을 추가해 이용자가 직접 챗GPT의 정보 정확성을 점검해 볼 수 있게 됐다고 8일 밝혔다.

사용자가 AI 검색 서비스 '라이너 코파일럿'을 설치한 다음, 챗GPT를 이용해 궁금한 내용을 질문하면 답변에 '팩트 체크하기'가 나타난다.

팩트 체크하기를 누르면, 답변과 관련된 유용한 내용을 찾아서 '일치함', 또는 '다름'을 퍼센테이지(%)로 표시해 답변이 어느 정도 사실과 부합한 지 보여준다.

예를 들어 챗GPT-4.0버전에 코로나 백신이 자폐증을 유발하느냐는 질문을 던지면, 챗GPT는 “코로나 백신은 자폐증을 유발하지 않는다”라는 답변과 함께 관련 내용은 1998년에 한 과학자가 발표한 논문에서 시작된 것으로 나중에 이 논문은 철회됐으며, 코로나 백신과 자폐증 사이 관련성은 찾지 못했다고 대답한다.

이에 답변에 달린 팩트 체크하기 기능을 누르면 해당 내용과 일치하는 문서 2개와 다른 내용을 제시하는 문서 3개를 보여준다. 일치 40%, 다름 60%가 함께 표시된다.

이용자가 각각 '일치함'과 '다름'에 해당하는 원 문서를 클릭해서 상세한 근거 내용을 파악할 수 있도록 했다. 답변 내용이 부정확하거나 불만족했을 경우, 관련 내용을 각각 찾아보기 쉽도록 한 것이다.

챗GPT의 경우, 거짓 정보를 사실처럼 전달하는 '할루시네이션(환각)' 문제가 고질적으로 지적되고 있다. 무료로 제공되는 챗GPT 3.5 버전의 경우 2022년 1월까지 업데이트된 데이터를 바탕으로 학습했기 때문에 한계가 뚜렷하다는 지적이다.

이러한 문제를 보완하기 위해 생성형 AI 서비스들은 답변에 웹 검색을 통한 정보 출처를 여러 개 표기하거나 내부 데이터를 활용한 검색증강생성(RAG) 기술 등을 적용해 정확도를 높이고 있다.

라이너 관계자는 “팩트체크 기능은 아직 테스트 단계이기 때문에 향후 서비스 계획은 확정되지 않았다”며 “서비스를 지속 운영하면서 이용자의 피드백을 받아볼 계획”이라고 전했다.

김명희 기자 noprint@etnews.com

[Copyright © 전자신문. 무단전재-재배포금지]