구글, 특정 의료 검색어에 대한 AI 검색 결과 삭제

[박찬 기자]

(사진=셔터스톡)

구글이 검색 결과 상단에 노출되던 일부 AI 건강 정보 요약을 삭제했다. 최근 AI 요약이 허위·오해 소지가 있는 정보를 제공해 사용자들의 건강을 위험에 빠뜨릴 수 있다는 지적이 나온 데 따른 것이다.

11일(현지시간) 가디언에 따르면, 구글은 건강 관련 질의에 대해 오해를 불러일으키는 정보를 제공한 일부 'AI 개요(AI Overviews)'를 제거했다.

AI 개요는 특정 주제나 질문에 대한 핵심 정보를 AI가 요약해 보여준다. 구글은 그동안 이 기능이 "유용하고 신뢰할 수 있다"라고 밝혀왔지만, 지난 2일 공개된 가디언의 조사에 따르면 일부 건강 관련 요약은 부정확한 정보를 담고 있었다.

가장 심각한 사례로는 간 기능 검사 정보가 지적됐다. 전문가들이 "위험하고 치명적일 수 있다"라고 평가한 이 사례에서, 구글은 간 기능 검사(LFT)의 정상 범위에 대해 잘못된 수치를 제시해 중증 간 질환 환자가 자신을 건강하다고 오인할 수 있는 상황을 만들었다.

'간 혈액 검사 정상 범위는 무엇인가'라는 검색어를 입력하면 수많은 수치가 맥락 설명 없이 나열됐고, 환자의 국적·성별·연령·인종에 따른 차이도 반영되지 않았다.

전문가들은 AI 개요가 제시한 '정상 범위'가 실제 의료 현장에서의 기준과 크게 다를 수 있으며, 이로 인해 환자가 후속 진료를 받지 않는 위험한 선택을 할 수 있다고 경고했다. 이에 따라 구글은 조사 이후 '간 혈액 검사 정상 범위' '간 기능 검사 정상 범위' 등의 검색어에 대해 AI 개요 결과를 삭제했다.

구글은 "검색 결과의 개별 삭제 사례를 공개하지는 않는다"라며 "AI 개요가 맥락을 충분히 제공하지 못하면 전반적인 개선 작업을 진행하며, 필요시 정책에 따라 조치하고 있다"라고 밝혔다.

그러나 우려의 목소리는 계속 됐다. 영국 간 건강 자선단체 브리티시 리버 트러스트의 바네사 헤브디치 커뮤니케이션·정책 책임자는 "이번 삭제는 환영할 만한 조치"라면서도 "질문을 조금만 다르게 하면 여전히 오해의 소지가 있는 AI 요약이 제공된다"고 지적했다. 실제로 'LFT 기준 범위'와 같은 변형된 검색어에는 AI 개요가 계속 노출됐다.

가디언은 암과 정신건강 관련 정보 중에서도 전문가들이 "완전히 틀렸고 매우 위험하다"고 평가한 AI 요약이 여전히 노출되고 있다고 전했다. 이에 대해 구글은 AI 요약이 신뢰할 수 있는 출처를 기반으로 하고 있으며, 필요하면 전문가 상담을 권고하고 있다고 해명했다.

하지만 구조적인 위험성도 지적됐다. 한 전문가는 "AI 개요는 기존 검색 결과보다 상단에 노출된다"라며 "주제가 건강이면 작은 오류라도 이용자에게 미치는 영향은 훨씬 더 크다"라고 말했다.

박찬 기자 cpark@aitimes.com

<저작권자 Copyright ⓒ AI타임스 무단전재 및 재배포 금지>