일론 머스크의 '성착취 딥페이크' 그록…필리핀, 차단 6일만에 해제

[아이뉴스24 김다운 기자] 일론 머스크가 소유한 엑스(X·옛 트위터)의 인공지능(AI) 챗봇 '그록'이 세계적인 성 착취 딥페이크 콘텐츠 논란에 휩싸인 가운데 필리핀 정부가 접속 차단 6일 만에 차단을 해제하기로 했다.

일론 머스크와 엑스·그록 [사진=AFP=연합뉴스]

21일(현지시간) 필리핀 사이버범죄수사조정센터(CICC)는 성명을 내고 그록 측이 음란성 콘텐츠 생성 기능을 제거하기로 약속한 데 따라 이같이 결정했다고 밝혔다.

CICC는 "그록 측이 딥페이크 제작을 가능하게 하는 이미지·콘텐츠 조작 기능 삭제와 특히 아동 성 학대 자료 등 음란물의 완전한 배제를 포함해 현지 시장에 맞춰 이 도구(그록)를 특별히 수정하기로 약속했다"고 설명했다.

레나토 파라이소 CICC 센터장은 그록 측이 접속 차단 이후 자신들에게 연락해 이렇게 밝혔다고 전했다.

그는 구체적인 접속 재개 시점은 그록 측과 회의해 결정할 방침이라면서 앞으로 그록이 필리핀 법규를 지키는지 계속 면밀히 모니터링하겠다고 강조했다.

앞서 지난 15일 필리핀 정부는 성 착취 딥페이크 콘텐츠 논란과 관련해 인도네시아, 말레이시아에 이어 세계 3번째로 그록 접속 차단 조치에 착수했다.

일본 정부도 딥페이크 등 타인의 이미지로 부적절한 성적 콘텐츠를 생성하지 않도록 엑스 측에 개선을 요구했으며, 영국 미디어 규제 당국 오프콤(OfCom)과 미국 캘리포니아주 검찰 등은 그록과 관련해 엑스에 대한 수사에 각각 착수했다.

이와 관련해 엑스 측은 그록이 실제 인물의 이미지로 비키니 수영복이나 속옷 차림 등의 노출이 심한 이미지를 만들지 못하도록 제한하는 자체 안전 조치를 내놓았다.

한국 방송미디어통신위원회도 지난 14일 엑스의 그록 서비스에 청소년 보호 장치 마련을 요구하고 최근 출시된 서비스에 대해서도 이와 관련한 자료를 요청했다.

방미통위는 엑스 측에 한국에서는 당사자 의사에 반해 성적 허위영상물을 제작·유통·소지·시청하는 행위가 형사처벌 대상이라는 점도 전달했다.

/김다운 기자(kdw@inews24.com)

[ⓒ 아이뉴스24 무단전재 및 재배포 금지]