성착취 딥페이크 논란…일본·필리핀, '그록' 차단 등 조치

[AFP=연합뉴스 자료사진 제공]

일론 머스크가 소유한 소셜미디어 엑스의 인공지능(AI) 챗봇 '그록'이 세계적으로 성 착취 딥페이크 콘텐츠 논란에 휩싸인 가운데 일본, 필리핀 등 각국이 접속 차단 등 규제에 나섰습니다.

일본 정부는 엑스에 대해 딥페이크 등 타인의 부적절한 성적 이미지를 생성하지 않도록 개선을 요구했다고 요미우리신문이 오늘(16일) 전했습니다.

신문에 따르면 일본 정부는 그런데도 개선되지 않을 경우 인공지능(AI) 법에 따라 사상 첫 행정지도를 하는 방안을 검토하고 있습니다.

이는 일본에서도 엑스의 인공지능 챗봇 '그록'에 의한 피해가 아이돌이나 미성년자들을 중심으로 속출한 데 따른 것입니다.

일본 내각부는 이번 달 들어 엑스에 대해 성적 가공물 출력을 막도록 구두로 요구했고, 딥페이크 이미지 생성 논란에 대한 입장, 부적절한 콘텐츠 생성 제한 기능의 세부 내용 등을 보고하도록 했습니다.

필리핀 정부도 전날 그록 접속을 차단하는 조치에 착수했다고 발표했습니다. 이로써 인도네시아, 말레이시아에 이어 세계에서 3번째로 그록을 막는 나라가 됐습니다.

한편 롭 본타 캘리포니아주 법무장관은 현지 시간 14일 "AI 모델 그록을 이용해 제작된 성적으로 노골적인 이미지 확산에 대한 조사를 개시한다"고 발표했습니다.

#엑스 #그록 #일본 #필리핀

연합뉴스TV 기사문의 및 제보 : 카톡/라인 jebo23

이지윤(easyun@yna.co.kr)