챗GPT 맞서려던 그록, 성 착취 딥페이크 논란 커져...말레이도 접속 차단

일론 머스크의 xAI가 개발한 챗봇 ‘그록’ 두고
성 착취 딥페이크 콘텐츠 논란 커져
인도네시아 이어 말레이도 그록 접속 차단

일론 머스크의 AI 기업 xAI가 만든 챗밧 ‘그록’이 성 착취 딥페이크 콘텐츠 논란에 휩싸였다. 11일(현지시간) 인도네시아에 이어 말레이시아도 그록에 대한 접속을 차단했다.

[헤럴드경제=도현정 기자]일론 머스크의 인공지능(AI) 기업 xAI가 개발한 챗봇 ‘그록’을 두고 성 착취 딥페이크 콘텐츠 논란이 커지고 있다. 인도네시아에 이어 말레이시아도 안전장치가 마련될 때까지 그록 접속을 차단하겠다고 밝혔다.

로이터 통신 등은 11일(현지시간) 말레이시아 통신멀티미디어위원회(MCMC)가 성명을 내고 자국 내 그록 접속을 일시적으로 제한하겠다고 밝혔다고 보도했다.

MCMC는 “그록이 여성과 미성년자 관련 콘텐츠를 포함해 음란하고, 성적으로 노골적이며 외설스럽고, 심하게 불쾌감을 주며 동의 없이 조작된 이미지를 생성하는 데 반복적으로 악용된 데 따른 것”이라며 이번 조치의 배경을 밝혔다.

이어 MCMC는 “(관련) 입법·규제 절차가 진행되는 동안 합리적인 예방 조치로 이번 일시적 접속 차단을 시행한다”면서 “여성·아동 관련 (딥페이크) 콘텐츠를 방지하는 효과적인 안전장치가 마련될 때까지 그록 접속 제한을 유지할 것”이라 전했다.

이는 지난 10일 인도네시아 통신디지털부가 세계 최초로 그록 접속을 차단한데 이어 두 번째다. xA가 개발한 챗봇 그록은 최근 간편히 딥페이크 이미지를 생성하는 서비스를 선보였다. 이후 엑스(옛 트위터)에 올라온 여성과 미성년자의 이미지를 이용해 비키니 수영복을 착용한 모습 등 노출이 심한 딥페이크 이미지를 만들어 올리는 사례가 속출하면서 세계 각국에서 그록에 대한 비난 여론이 커지고 있다.

미국에서는 민주당 소속 론 와이든 상원의원 등 3명이 지난 9일 애플과 구글 최고경영자(CEO)에게 서한을 보내 그록과 엑스 앱을 앱스토어에서 퇴출하라고 촉구했다. 키어 스타머 영국 총리도 아동 성 착취 이미지의 제작·유포는 “역겹고 불법적인 행위”라며 엑스는 그록을 통제해 정신을 차리게 해야 한다고 비난했다.

논란이 커지자 엑스와 xAI 는 엑스에서 그록의 이미지 생성·편집 기능을 사용할 수 있는 대상을 프리미엄(유료) 구독자만으로 한정하는 방침을 정했다. 정작 엑스와 xAI 최고경영자인 머스크는 지난 10일 자신의 엑스 계정에서 영국 정부를 겨냥해 “영국 정부는 왜 이렇게 파시스트적인가?. 그들은 검열을 위한 온갖 핑계를 찾고 있다”고 반발했다. 그는 AI가 생성한 비키니 차림의 스타머 영국 총리의 합성 이미지를 리트윗하며 영국 정부를 조롱하기도 했다.

인도네시아는 지난 10일 무티아 하피드 통신디지털부 장관이 “AI 기술로 생성한 가짜 음란물 콘텐츠의 위험으로부터 여성과 아동 등을 보호하기 위해 정부는 그록 애플리케이션 접근을 일시적으로 차단했다”고 성명을 통해 밝혔다.

말레이시아도 MCMC가 이달 초 xIA에 공문을 보내 성착취물로부터 사용자들을 보호할 기술적 조치 등을 요구했지만, xAI 측은 “AI 도구의 설계·운영으로 인해 발생하는 내재적 위험을 해결하지 못하고 주로 사용자 신고 메커니즘에 의존했다”고 토로했다. 사용자의 신고가 없으면, 성착취물 딥페이크에 대해 사전적 예방 조치를 하기 어렵다는 것이다.

xAI는 인도네시아 정부의 그록 차단 조치가 나오자 엑스에 “불편을 드려 죄송하다. 이번 문제를 해결하기 위해 노력하고 있다”고 입장을 밝힌 바 있다.