미국에서도 '그록' 관련 조사 예고...머스크 "미성년자 문제 인지 못해"

[박찬 기자]

(사진=셔터스톡)

일론 머스크 CEO의 xAI와 X가 AI 챗봇 '그록'을 둘러싼 성적 이미지 논란으로 전 세계적인 압박에 직면하고 있다. 결국 미국에서도 이와 관련된 조사가 시작될 예정이다.

14일(현지시간) 로이터에 따르면, 미국 캘리포니아주 주지사와 법무 장관은 그록이 미성년자를 포함한 성적 이미지 생성에 연루됐다는 의혹과 관련해 xAI에 공식적인 해명을 요구하며 조사 착수를 예고했다.

개빈 뉴섬 캘리포니아 주지사는 "xAI를 즉각 조사하고 책임을 묻도록 법무 장관에게 요청했다"라고 밝혔다. 롭 본타 캘리포니아 법무 장관도 "이런 콘텐츠의 생성과 확산을 어떻게 중단할 것인지에 대해 즉각적인 답변을 요구한다"라고 말했다.

이는 미국 고위 공직자가 AI로 생성된 비동의 성적 이미지 문제에 대해 가장 강도 높게 대응한 사례로 평가된다.

논란은 올해 초 X 플랫폼에 여성과 미성년자의 노출 복장이나 성적 수치심을 일으키는 이미지가 퍼져 나가며 시작됐다. 일부 사례에서는 미성년자가 디지털 방식으로 수영복 차림으로 변형된 이미지도 확인됐다. 이런 이미지 상당수가 그록을 통해 생성되거나 편집된 것으로 알려지면서 비판이 커졌다.

머스크 CEO는 이날 "그록이 미성년자의 나체 이미지를 생성했다는 사실을 전혀 인지하지 못했다. 문자 그대로 '제로'인 상태"라고 주장했다.

또, 그록이 사용자 요청에 따라 이미지를 생성할 뿐이며, 불법 콘텐츠는 각 국가와 주의 법률에 따라 거부하도록 설계돼 있다고 설명했다. 다만 "악의적인 프롬프트 공격으로 예상치 못한 결과가 나올 수는 있으며, 그런 경우 즉시 버그를 수정한다"고 덧붙였다.

하지만, 미국의 시민단체들도 반발에 나섰다. 울트라바이올렛(UltraViolet), 전미여성기구(NOW), 무브온(MoveOn) 등 여성단체와 시민단체 연합은 애플과 구글에 공개서한을 보내 X와 그록을 앱스토어에서 퇴출할 것을 촉구했다. 이들은 "수천, 수만 명의 여성과 아동이 앱스토어를 통해 성적 학대의 대상이 되고 있다"라고 주장했다.

여파는 플랫폼 이탈로도 이어지고 있다. 미국 최대 교원노조 중 하나인 미국교사연맹(AFT)은 "그록의 무방비 AI 이미지 생성이 마지막 결정타"라며 X 사용 중단을 선언했다. AFT는 약 180만명의 교육 종사자를 대표하는 대형 노조로, 지도부는 "표현의 자유보다 아동 안전이 우선"이라고 강조했다.

세계적인 대응도 계속됐다. 국내에서는 전날 방송미디어통신위원회가 청소년 보호장치 마련을 촉구했다.

여기에 EU 집행위원회는 이날 "X가 발표한 추가 조치가 실제로 시민을 보호하는지 면밀히 평가할 것"이라며, 미흡할 경우 디지털서비스법(DSA)에 따른 강력한 제재를 경고했다.

영국에서는 미디어 규제기관 오프컴(Ofcom)이 그록의 성적 딥페이크 이미지 생성 의혹을 조사 중이며, 키어 스타머 총리는 "X가 영국 법을 완전히 준수하도록 조치하고 있다"라고 밝혔다. 영국 정부는 성적 딥페이크 제작을 범죄로 규정하는 새 법도 시행에 들어갔다.

박찬 기자 cpark@aitimes.com

<저작권자 Copyright ⓒ AI타임스 무단전재 및 재배포 금지>