 |
일론 머스크와 xAI 그록. /AFP 연합뉴스 |
일론 머스크의 인공지능(AI) 스타트업 xAI가 개발한 AI 챗봇 ‘그록’이 성적 이미지 생성 논란에 휩싸이면서 미국 캘리포니아주 당국이 조사에 착수했다. 14일(이하 현지 시각) 롭 본타 캘리포니아주 법무장관은 “AI 모델 그록을 이용해 제작된 성적으로 노골적인 이미지 확산에 대한 조사를 개시한다”고 밝혔다.
그록은 다른 생성 AI 툴과는 달리 다양한 표현과 성인용 콘텐츠 생성에 비교적 자유로운 것으로 알려졌다. 이는 표현의 자유를 중시하는 일론 머스크의 성향을 반영한 것이다. 그록은 작년 7월 애니메이션 동반자인 ‘AI 아바타’ 기능을 추가했는데, 이 여성 아바타는 대화를 통해 호감도를 높이면 속옷 차림으로 바뀌는 등 선정성 논란이 끊이지 않았다. 그록의 영상 생성 기능인 이매진 v0.9는 자유도가 높아 이를 통해 성인용 콘텐츠를 만드는 사용자가 적지 않았다.
최근엔 실존 인물을 성적으로 묘사한 이미지가 그록에서 대량으로 생성되고 일론 머스크 소유의 소셜미디어(SNS)인 X에 무분별하게 유통되면서 반발에 부딪혔다. 일론 머스크의 아이를 출산했다고 주장하는 미국 보수 논평가이자 인플루언서 애슐리 세인트 클레어는 자신의 SNS에 “(내가) 노출이 심한 수영복을 입은 사진을 시작으로 다수의 성적인 딥페이크 이미지가 발견됐다”고 밝혔다.
 |
런던 영국 웨스트민스터를 지나는 차량에 기업 책임성 단체 ‘에코(Eko)’가 주최한 광고판이 걸려 있다. 이 광고는 영국 총리에게 일론 머스크에 맞서 엑스(X)와 그록(Grok)을 금지하라고 촉구하는 내용을 담고 있다. /연합뉴스 |
논란이 지속되자 그록과 X를 차단하는 움직임이 벌어지고 있다. 지난 11일 인도네시아와 말레이시아는 그록의 접속을 차단했다. 영국 미디어 규제 당국인 오프콤도 공식 조사에 착수했다. 오프콤은 예비 조사에서 “그록이 성적 이미지 남용이나 음란물에 해당할 수 있는 옷 벗은 사람의 이미지, 아동 성착취물에 해당할 수 있는 어린이의 성적 이미지를 생성해 공유하는 데 사용됐다는 대단히 우려되는 보고가 있었다”고 설명했다.
미국 최초로 캘리포니아주도 나섰다. 본타 캘리포니아 법무장관은 “xAI가 소셜미디어 플랫폼 X를 포함한 인터넷 전반에서 여성과 소녀들을 괴롭히는 데 사용되는 대규모 딥페이크 이미지 제작을 가능하게 하는 것으로 보인다”며 “최근 몇 주간 이런 이미지들에 대한 폭로가 쏟아지고 있는 상황은 충격적”이라고 했다. 또 “한 분석에 따르면 지난 크리스마스와 새해 사이에 xAI가 생성한 2만개의 이미지 중 절반 이상이 최소한의 옷만 입은 사람들을 묘사했으며, 그중 일부는 아동으로 보였다”고 지적했다
개빈 뉴섬 캘리포니아 주지사도 반발했다. 그는 자신의 X에 “xAI가 아동의 옷을 디지털 방식으로 벗기는 이미지를 포함해 동의 없이 제작된 성적으로 노골적인 AI 딥페이크를 만들어내고 가해자들이 확산시킬 수 있게 한 결정은 극도로 혐오스럽다”며 “나는 법무장관에게 이 회사를 즉시 조사하고 책임을 물을 것을 요구한다”고 했다. 미국 교사들도 반발했다. 미국교사연맹은 13일 X가 아동들의 역겨운 이미지를 제작하고 유포한다는 이유로 X를 탈퇴한다고 밝혔다.
머스크와 xAI, X는 이러한 반발을 의식하고 있다. X는 지난 9일부터 그록의 이미지 생성·편집 기능 제공을 유료 구독자로 제한했다. 또 14일엔 성명을 내고 “그록 계정이 비키니와 같은 노출이 심한 옷을 입은 실제 사람들의 이미지를 편집할 수 없도록 기술적 조치를 시행했다”고 밝혔다.
머스크는 이러한 사실을 전면 부인했다. 그는 “나는 그록이 생성한 미성년자 노출 이미지에 대해 전혀 알지 못한다”며 “말 그대로 제로(Literally zero)”라고 했다. 또 “분명히 그록은 스스로 이미지를 생성하지 않으며, 오직 사용자 요청에 따라 생성한다”며 “이미지 생성을 요청받을 때, 그록은 해당 국가나 주의 법률을 준수하는 운영 원칙에 따라 어떤 불법적인 것도 생성하기를 거부할 것”이라고 했다.
[김성민 기자]
- Copyrights ⓒ 조선일보 & chosun.com, 무단 전재 및 재배포 금지 -
이 기사의 카테고리는 언론사의 분류를 따릅니다.