일론 머스크 '비키니 합성' 조롱, 부메랑 됐다…韓 정부도 '그록'에 제동(종합)

방미통위, '딥페이크 양산 논란' AI 그록에 청소년 보호 요청
청소년 접근 제한·관리 조치 등 보호 계획 회신 요구
머스크 발언 키운 성적 딥페이크 논란…글로벌 AI 규제 시험대

[AP/뉴시스] 지난해 5월 5일 xAI 웹사이트의 인공지능(AI) 챗봇 그록의 검색 화면 모습. 2025.07.09.

[서울=뉴시스] 신효령 박은비 기자 = 정부가 인공지능(AI) 챗봇 '그록(Grok)' 서비스를 전 세계에 제공하고 있는 엑스(X·옛 트위터)에 대해 청소년 보호를 위한 안전장치 마련을 주문했다. 성착취물과 비동의 성적 이미지가 소셜미디어를 통해 확산되며 사회적 우려가 커졌다는 판단에 따른 조치다.

방송미디어통신위원회는 엑스에 공문을 보내 그록 서비스와 관련해 ▲안전장치 마련 ▲청소년 접근 제한 ▲관리 조치 등 보호 계획을 수립하고, 그 결과를 회신해 달라고 통보했다고 14일 밝혔다.

현재 엑스는 국내 정보통신망법에 따라 청소년보호 책임자를 지정해 방미통위에 통보하고 있으며, 매년 청소년보호책임자 운영 실태 관련 자료도 제출하고 있다. 방미통위는 그록 서비스 역시 이와 같은 자료 제출 대상이라고 판단했다.

특히 방미통위는 엑스 측에 한국에서는 당사자의 의사에 반해 성적 허위영상물(딥페이크)을 제작·유통·소지·시청하는 행위가 형사처벌 대상이라는 점을 명확히 전달했다. 그록을 통해 생성된 결과물이 자칫 이용자를 범법 행위로 이끌 수 있다는 점을 사전에 경고한 것이다.

성 착취 딥페이크 논란 '그록', 인니 이어 말레이에서도 퇴출 검토

그록은 일론 머스크 테슬라 최고경영자(CEO)가 설립한 AI 스타트업 xAI가 개발한 AI 챗봇 서비스다. 최근 그록은 간편하게 딥페이크 이미지를 생성할 수 있는 기능을 선보였다. 이후 엑스에 게시된 여성·미성년자 이미지 등을 활용해 비키니 수영복 착용 모습 등 노출이 심한 합성 이미지를 생성·게시하는 사례가 잇따르면서 세계 각국에서 비판 여론이 확산됐다.

해외 규제 당국의 대응도 이어졌다. 유럽 일부 국가와 말레이시아 당국은 그록 관련 사안에 대해 공식 조사 착수 또는 법적 조치 검토에 들어갔다. 호주와 인도 역시 문제 콘텐츠에 대한 단속을 강화하겠다는 방침을 밝혔다. 특히 유럽연합(EU) 집행위원회는 엑스에 대해 그록과 관련된 모든 내부 문서와 데이터를 올해 말까지 보존하라고 요구했다.

생성형 AI가 불법·유해 콘텐츠 유통에 관여할 수 있다는 우려가 커지면서 미국과 유럽 정치권, 시민사회에서도 비판이 잇따랐다. 미국 워싱턴에서는 일부 민주당 의원들이 머스크가 대대적인 개선 조치를 취할 때까지 앱스토어에서 그록을 퇴출해야 한다고 주장했다.

머스크, 비키니 합성 이미지 리트윗으로 논란 증폭



논란이 확산되자 엑스와 xAI는 그록의 이미지 생성·편집 기능을 엑스 내 유료 구독자인 '프리미엄' 이용자로 제한하는 방향으로 정책을 조정했다. 문제 제기 이후 기능 접근 대상을 축소해 위험 요소를 관리하겠다는 취지다.

그러나 엑스와 xAI의 최고경영자인 일론 머스크는 규제 움직임에 대해 강한 반감을 드러냈다. 머스크는 지난 10일 자신의 엑스 계정을 통해 영국 정부를 겨냥해 "왜 이렇게 파시스트적인가. 그들은 검열을 정당화하기 위한 온갖 핑계를 찾고 있다"고 비판했다. 이어 AI가 생성한 비키니 차림의 키어 스타머 영국 총리 합성 이미지를 리트윗하며 영국 정부를 조롱했다.

머스크의 이 같은 행보는 오히려 그록이 성적 이미지와 딥페이크 생성 논란의 중심에 서 있다는 점을 부각시키며 비판 여론을 더욱 자극했다.

韓 정부도 청소년 보호 명분으로 엑스에 안전장치 요구

해외에서 성적 이미지 생성과 관련한 규제 움직임이 확산되는 가운데, 한국 정부가 청소년 보호를 이유로 공식적인 안전장치 마련을 요구하면서 논란은 글로벌 AI 규제 이슈로 번지는 양상이다. 그록을 둘러싼 논란은 AI의 자유와 책임을 어디까지 허용할 것인가라는 질문으로 확장된다.

현행 법체계상 새로운 AI 챗봇 서비스라는 이유만으로 사전 차단이나 출시 금지를 명령할 수는 없다. 이번 한국 정부의 조치는 그록 하나에 대한 대응을 넘어, 앞으로 등장할 모든 AI 챗봇과 생성형 서비스에 적용될 책임 기준의 출발점이 될 가능성이 크다는 게 업계의 평가다.

방미통위는 정보통신망법에 근거한 청소년보호책임자 제도를 활용해 글로벌 플랫폼 사업자에게도 자율적 안전조치와 사회적 책임을 요구하는 방식을 택했다. 성착취물과 비동의 성적 이미지가 소셜미디어를 통해 확산되는 상황에서, 생성형 AI 챗봇이 새로운 위험 요인이 될 수 있다는 판단에서다.

김종철 방미통위원장은 "새롭게 도입되는 신기술이 건전하고 안전하게 발전하는 데 도움이 되도록 적극 지원하겠다"며 "부작용과 역기능에 대해서는 합리적 규제를 해 나갈 계획이다. AI 서비스 제공자를 대상으로 성범죄물 등 불법정보 유통 방지 및 청소년 보호 의무를 부과하는 제도 개선을 추진하겠다"고 밝혔다.

☞공감언론 뉴시스 snow@newsis.com, silverline@newsis.com

▶ 네이버에서 뉴시스 구독하기
▶ K-Artprice, 유명 미술작품 가격 공개