국경없는기자회 "애플, AI 뉴스 요약 철폐 해야"

[박찬 기자]

애플의 인공지능(AI) 알림 요약 기능이 뉴스 내용을 왜곡했다며, 이를 삭제하라는 요구가 등장했다.

국제 언론감시단체인 국경없는기자회는 20일(현지시간) 애플이 최신 iOS 18.2 업데이트를 통해 일부 국가에서 출시한 알림 요약 기능이 잘못된 정보를 생성, 혼란을 초래하고 있다며 이를 삭제할 것을 주장했다.

국경없는기자회는 "생성 AI 기능이 신뢰할 수 있는 저널리즘을 위협하고 있다"라고 비난하며, 알림 요약 기능의 삭제를 요구했다. 뱅상 베르티에 데스크 책임자는 "AI는 확률 기반의 기계일 뿐이며, 진실은 단순히 주사위를 던져 결정할 수 없다"라며 "애플은 이러한 기능을 즉각 제거해야 한다"라고 주장했다.

문제의 기능은 아이폰에 수신된 뉴스와 이메일, 메시지 등을 요약, 휴대폰 대기 상태에서 한눈에 살펴볼 수 있도록 간단한 문자로 제공한다.

이미 베타 테스트부터 엉뚱한 요약 내용으로 지적 당해왔다. 하지만 심각한 환각이라기 보다, 주로 농담거리로 받아들여졌다.

하지만 최근 영국 BBC 앱의 뉴스 요약 과정에서는 '가짜 뉴스'라고 볼만한 오류가 발생했다. 유나이티드 헬스케어 CEO 브라이언 톰슨의 살인 혐의로 체포된 루이지 맨지오니가 자살했다는 잘못된 알림이 발송된 것이다. 해당 용의자는 살아 있으며 이후 뉴욕으로 이송된 것으로 밝혀졌다.

이에 대해 BBC는 이미 애플에 항의했다. "BBC 뉴스는 세계에서 가장 신뢰받는 미디어 중 하나"라며 "우리의 청중은 BBC 이름으로 게시된 모든 정보와 알림을 신뢰할 수 있어야 한다"라고 강력히 항의했다.

비슷한 사례는 지난 11월에도 발생했다. 뉴욕타임스가 국제형사재판소가 전쟁범죄 혐의로 베냐민 네타냐후 이스라엘 총리에 대한 체포영장을 발부했다고 보도했으나, 애플의 알림 요약 기능은 이를 "네타냐후 총리가 체포됐다"고 왜곡해 전달했다.

애플은 AI 환각을 우려해 문제가 될만한 내용은 시리에 통합된 '챗GPT'로 넘기고, 간단한 문자 요약 등에만 자체 생성 AI 기술을 적용하고 있다. 하지만, 이마저도 점차 문제가 제기되고 있다.

박찬 기자 cpark@aitimes.com

<저작권자 Copyright ⓒ AI타임스 무단전재 및 재배포 금지>