구글·메타·MS, AI 학습 데이터에 아동 성학대 자료 확산 막는다

[AI리포터]

[디지털투데이 AI리포터] 구글, 메타, 오픈AI, 마이크로소프트(MS) 등을 비롯한 글로벌 빅테크 기업들이 아동 성학대 자료(CSAM)에 인공지능(AI) 학습 데이터를 사용하지 않기로 결정했다.

23일(현지시간) IT매체 더 버지에 따르면 이들 기업은 CSAM 확산을 막기 위한 새로운 원칙에 서명했다. 여기에는 교육 데이터세트에 CSAM이 포함되지 않도록 하고, CSAM을 포함할 위험이 높은 데이터세트를 제외하는 등의 내용이 포함됐다.

또한 데이터 소스에서 CSMA 이미지나 링크를 제거할 것을 약속한 약관도 들어간다. 이에 따라 빅테크 기업들은 향후 아동 안전에 대한 평가가 완료된 모델만 출시해야 한다.

이는 지난해 12월 스탠퍼드 연구팀이 일부 AI 모델을 학습시키는 데 사용되는 인기 데이터 세트에 CSAM 이미지 링크가 포함됐다는 보고서를 발표한 후 이뤄진 조치다. 당시 아동학대 방지 비영리단체 쏜(Thorn) 또한 "AI 이미지 생성이 피해자를 식별하는 노력을 방해하고 CSAM에 대한 수요를 증가시킨다"라고 지적하기도 했다.

<저작권자 Copyright ⓒ 디지털투데이 (DigitalToday) 무단전재 및 재배포 금지>