日, 엑스에 딥페이크 생성 금지 요구…"개선 안되면 행정지도"

(서울=연합뉴스) 최이락 기자 = 일본 정부가 엑스(X·옛 트위터)에 대해 딥페이크 등 타인의 부적절한 성적 이미지를 생성하지 않도록 개선을 요구했다고 요미우리신문이 16일 전했다.

신문에 따르면 일본 정부는 그런데도 개선 되지 않을 경우 인공지능(AI) 법에 따라 사상 첫 행정지도를 하는 방안을 검토하고 있다.

이는 일본에서도 엑스의 인공지능 챗봇 '그록'에 의한 피해가 아이돌이나 미성년자들을 중심으로 속출한 데 따른 것이다.

엑스와 그록 로고 [AFP 연합뉴스 자료사진. 재판매 및 DB 금지]

일본의 AI법은 생성형 AI의 기술 혁신과 그 위험성 관리를 위해 지난해 9월 시행됐다.

이 법은 국민의 권리 침해가 발생하면 국가가 AI 사업자에 대해 조사하고, 결과에 따라 사업자를 상대로 지도·조언할 수 있도록 했다. 아직 지도 사례는 없다.

일본 내각부는 이달 들어 엑스에 대해 성적 가공물 출력을 막도록 구두로 요구했다.

아울러 딥페이크 이미지 생성 논란에 대한 입장, 부적절한 콘텐츠 생성 제한 기능의 세부 내용, 향후 대응 방침 등을 서면으로 신속히 보고하도록 했다.

이런 요구는 AI법에 근거한 행정지도를 염두에 둔 것이지만 지난 15일까지 엑스 측은 일본 정부에 별다른 회신을 하지 않았다고 요미우리는 전했다.

엑스 측은 최근 "그록 계정이 실제 인물의 이미지를 편집해 노출이 심한 상태로 생성하지 못하도록 기술적 조치를 시행했다"고 밝혔지만, 요미우리는 "15일 저녁에도 노출도가 높은 이미지로 가공이 가능했다"고 지적했다.

이번 논란과 관련해 다른 나라에서도 대응 조치가 이어지고 있다. 인도네시아는 지난 10일 그록 접속을 일시 차단했고, 영국은 온라인안전법에 따른 조사를 시작했다.

choinal@yna.co.kr

▶제보는 카카오톡 okjebo
▶연합뉴스 앱 지금 바로 다운받기~
▶네이버 연합뉴스 채널 구독하기
<저작권자(c) 연합뉴스, 무단 전재-재배포, AI 학습 및 활용 금지>