‘아동 성착취물 생성’ 머스크의 그록, 인도네시아·말레이시아서 퇴출

인공지능 회사 엑스에이아이의 설립자 일론 머스크의 모습과 회사 로고가 표시된 화면의 모습이 보인다. AFP연합뉴스

‘딥페이크’(이미지 합성 기술) 성착취물을 생성해 논란이 된 챗봇 ‘그록’ 서비스가 인도네시아·말레이시아에서 접속이 차단됐다. 그록은 일론 머스크 테슬라 최고경영자의 인공지능 회사 엑스에이아이(xAI)가 개발한 대화형 인공지능 서비스다.

11일 아에프페(AFP) 통신 등은 10일 그록 접속을 전면 차단한 인도네시아에 이어, 11일에는 말레이시아 규제당국도 접속 차단 조치를 내렸다고 보도했다. 이번 조치는 그록의 이미지 생성 기능을 이용해 간단한 명령어 입력만으로도 여성과 아동의 사진을 이용한 성착취물을 만들 수 있다는 사실이 알려지면서 전세계적으로 비판이 확산된 데 따른 것이다.

말레이시아 통신멀티미디어위원회(MCMC)는 성명을 통해 “음란하고 모욕적이거나 동의를 받지 못한 조작된 이미지를 반복적으로 생성”하고 “여성과 미성년자를 포함한 부적절한 콘텐츠가 지속적으로 발견됐으며 엑스에이아이 쪽에 통보와 협의를 거쳤음에도 개선이 이뤄지지 않았다”고 차단 조치를 내린 이유를 설명했다. 앞서 인도네시아는 통신디지털부는 엑스에이아이 관계자들을 불러 최근 그록이 성착취물을 생성하며 논란을 불러일으킨 데 대해 사실 관계를 확인했으며, 이후 10일 세계 최초로 접속 차단 조치를 내린 바 있다.

최근 유럽 비영리 단체인 에이아이 포렌식스는 그록 이미지 생성기능을 통해 18살 미만으로 보이는 이들의 성착취물까지 생성·유통되고 있다는 사실이 확인됐다고 발표했다. 챗지피티나 제미나이 등 다른 인공지능 챗봇이 성적 이미지 생성을 엄격히 금지하는 것과 달리 그록은 ‘표현의 자유’를 내세워 이를 막지 않았으며, 지난해말에는 더 간편하게 선정적인 이미지를 만들 수 있도록 하는 업데이트를 했다는 것이다.

영국 인터넷 감시기관(IWF)은 다크웹에서 11~13살 소녀의 상반신 노출 이미지들이 발견됐으며, 이는 그록으로 생성된 것으로 보인다고 밝혔다. 미국에서는 민주당 소속 론 와이든 상원의원(오리건) 등이 애플과 구글 최고경영자에게 서한을 보내 앱스토어에서 그록과 엑스를 퇴출하라고 요구했다.

3일 브라질 리우데자네이루주에 거주하는 한 뮤지션이 로이터통신과의 인터뷰 중 자신의 사진이 있는 소셜미디어 엑스 화면을 보여주고 있다. 그녀는 일론 머스크의 소셜미디어 플랫폼 엑스에 내장된 챗봇 그록이 자신이 게시한 사진의 편집을 요청한 사용자들에게 거의 나체에 가까운 자신의 이미지를 생성해줬다는 사실을 나중에야 알게 됐다. 로이터 연합뉴스

논란이 커지자 지난 9일 그록 쪽은 유료 구독자에게만 이미지 생성 및 편집 기능을 제공한다고 밝혔는데, 딥페이크 성착취물 문제를 근본적으로 해결하지 못하는 대응이라는 비난을 받고 있다. 머스크 최고경영자는 키어 스타머 영국 총리가 미성년 성착취물 생성 문제를 비판한 것을 두고, 오히려 영국 정부가 “파시스트”라고 비난하며 비키니 차림의 스타머 총리가 그려진 합성 이미지를 소셜미디어에 공유(리트위트)하기도 했다.

정유경 기자 edge@hani.co.kr

[한겨레 후원하기] 시민과 함께 민주주의를

겨울밤 밝히는 민주주의 불빛 ▶스토리 보기

▶▶한겨레 뉴스레터 모아보기