xAI '그록', 아동성착취 이미지 올렸다 삭제…안전장치 '허점'

[연합뉴스 자료사진 제공]

일론 머스크 테슬라 최고경영자(CEO)가 이끄는 인공지능(AI) 기업 xAI의 챗봇 '그록'이 비키니 수영복 등을 입은 아동의 이미지를 게시했다가 신고를 받고 삭제했습니다.

현지 시간 2일 그록의 엑스(X·옛 트위터) 공식 계정에 따르면 이 챗봇은 최근 '최소한으로 옷을 입은 미성년자'를 묘사한 사진을 여러 건 게시했습니다.

이들 사진은 일부 이용자들의 요청에 따라 생성된 것으로, 이 가운데는 1∼2세 영유아로 보이는 아동 사진도 포함된 것으로 나타났습니다.

그록은 원래 이처럼 아동을 성적으로 대상화하는 이미지 생성 요청을 차단하는 '안전장치'를 마련하고 있으나, 일부가 이를 우회한 것으로 보입니다.

그록은 한 이용자가 문제를 제기하자 "안전장치의 허점을 확인했다"며 "긴급히 수정 중"이라고 밝히고, 문제가 된 사진을 삭제했습니다.

비록 xAI 측은 안전장치 상의 문제라고 설명했으나, 일각에서는 그록이 그간 성적 콘텐츠를 허용하는 방식으로 이용자를 늘려왔다고 지적하고 있습니다.

챗GPT와 제미나이, 클로드 등 주요 AI 챗봇은 성적 이미지나 콘텐츠 생성을 엄격히 금지하고 있지만, 그록은 '표현의 자유' 등을 내세워 이를 막지 않고 있습니다.

지난해 8월 이미지·영상 생성 모델을 출시하면서 성적인 이미지를 생성할 수 있는 이른바 '매운맛 모드'(Spicy Mode)도 함께 내놓은 것이 대표적인 사례입니다.

xAI는 주요 외신들의 논평 요청에 대해 "기성 언론은 거짓말을 한다"(Legacy Media Lies)고 답했는데, 이는 언론사의 이메일에 대한 자동응답 답변이라고 CNBC는 설명했습니다.

#그록 #아동성착취 #AI #안전장치

연합뉴스TV 기사문의 및 제보 : 카톡/라인 jebo23

이지윤(easyun@yna.co.kr)