유네스코 "AI, 홀로코스트 왜곡·반유대주의 조장 위험성 有"

[AI리포터]

[디지털투데이 AI리포터] 유엔교육과학문화기구(유네스코, UNESCO)가 인공지능(AI)의 홀로코스트 기록 조작 가능성에 대해 경고했다고 20일(현지시간) 온라인 매체 기가진이 전했다.

유네스코는 보고서를 통해 "AI 생성 콘텐츠가 홀로코스트 관련 사실을 날조하거나 오해를 불러일으킬 수 있다"고 지적했다. 보고서는 특히 데이터의 편향성이나 공백에 따라 잘못되거나 조작된 콘텐츠를 생성할 수 있는 점을 우려했다.

'가짜 증거'를 만들어낼 수 있는 딥페이크 기술 역시 홀로코스트 관련 콘텐츠를 조작하고 AI 모델을 통해 증오 발언을 퍼뜨릴 위험이 다분하다. 이뿐만 아니라 알고리즘의 편향성으로 홀로코스트를 경시하는 콘텐츠가 확산될 수 있으며, AI가 홀로코스트의 복잡성을 지나치게 단순화하는 경향이 있는 것으로 나타났다.

유네스코는 "AI 설계자와 정책 입안자, 교육자, 연구자들이 협력해야 하며, 디지털 리터러시 기술 향상과 강력한 안전장치, 인권 평가를 갖춘 AI 시스템이 필요하다"고 강조했다.

오드레 아줄레 유네스코 사무총장 겸 프랑스 문화부 장관은 "AI의 무책임한 사용으로 인해 홀로코스트의 사실이 왜곡되거나 변조된다면, 반유대주의 확산뿐 아니라 홀로코스트 잔혹행위의 원인·결과에 대한 이해가 사라질 위험이 있다"고 지적했다.

<저작권자 Copyright ⓒ 디지털투데이 (DigitalToday) 무단전재 및 재배포 금지>