AI 딥페이크 논란 확산…그록, 애플·구글 앱스토어서 퇴출되나

[AI리포터]

xAI 그록 [사진: 셔터스톡]

[디지털투데이 AI리포터] AI 챗봇 그록의 비동의 성적 딥페이크 문제가 논란이 되는 가운데, 애플과 구글의 책임론이 확산하고 있다.

14일(현지시간) IT매체 엔가젯에 따르면, 여성·진보 단체 28곳이 공개서한을 통해 애플과 구글에 그록과 엑스(구 트위터) 앱을 앱스토어에서 즉시 제거할 것을 요구했다. 이들 단체는 앱이 비동의 성적 콘텐츠 및 아동 성적 학대물(CSAM)을 생성할 수 있도록 방치하며, 이를 통해 이익을 얻고 있다고 지적했다.

그록은 최근 하루 24시간 동안 시간당 약 6700장의 성적 혹은 누드화 된 이미지를 생성한 것으로 알려졌다. 전체 이미지의 약 85%가 성적 콘텐츠였으며, 피해자 일부는 미성년자로 추정됐다. 이에 엑스 측은 AI 이미지 생성 기능을 유료 구독자로 제한하고 공개 타임라인 게시를 막았지만, 비구독자는 여전히 제한된 기능을 사용할 수 있는 상태다.

애플과 구글은 자사 가이드라인상 비동의 딥페이크 앱을 금지하고 있음에도, 아직 앱 제거나 실질적 대응 조치를 취하지 않았다. 양사는 엔가젯의 문의에 대해 별다른 답변을 내놓지 않았다.

한편, 글로벌 규제기관과 정부는 적극적으로 대응하고 있다. 말레이시아와 인도네시아는 그록을 즉시 금지했으며, 영국 통신 규제기관 오프컴과 캘리포니아 주는 각각 조사에 착수했다. 미국 상원은 피해자가 민사 소송을 제기할 수 있는 디파이언스 법안을 통과시키며 대응에 나섰다.

<저작권자 Copyright ⓒ 디지털투데이 (DigitalToday) 무단전재 및 재배포 금지>