[AI의 종목 이야기] 일본, 머스크의 AI '그록' 성적 합성 이미지 정면 대응

다음은 인공지능(AI) 번역을 통해 생산한 콘텐츠로, 원문은 1월16일자 블룸버그 보도입니다.

[서울=뉴스핌] 황숙혜 기자 = 일본이 일론 머스크의 인공지능 서비스 '그록(Grok)'과 이 챗봇이 당사자 동의 없이 사람들의 성적 이미지 합성을 만들어내고 퍼뜨리는 데 관여한 역할을 조사하는 국가들의 대열에 새로 합류했다.

그록 이미지 [사진=로이터 뉴스핌]

일본 내각부는 소셜미디어 플랫폼인 X에 대해, 그록이 성적으로 변형한 이미지의 산출을 억제하고 안전장치를 강화할 것을 요구했다고 오노다 기미 경제안보상은 밝혔다. 정부는 또한 X가 딥페이크와 그 밖에 사생활, 지식재산권, 초상 사용 통제권을 침해하는 이미지를 생성하지 못하도록 하기 위해 어떤 조치를 취하고 있는지에 관한 서면 질의도 제출했다.

이달 들어 그록은 사진을 쉽게 조작해 인물을 성적으로 대상화하거나 모욕하는 데 쓸 수 있다는 점 때문에 말레이시아에서 이탈리아에 이르기까지 이용자들과 각국 정부의 거센 비판에 직면했다. 이후 그록은 이미지 생성 기능에 일부 제한을 걸고, 이 기능을 유료 이용자 전용으로 전환했다.

오노다 경제안보상은 1월16일 기자회견에서 "개선이 이뤄지지 않는다면 법적 조치를 포함한 모든 가능성이 테이블 위에 올라와 있다"며 "비슷한 문제가 다른 플랫폼에서 발생해도 마찬가지로 대응할 것"이라고 말했다.

X의 최대 해외 시장 가운데 하나인 일본의 장관이 내놓은 이 발언은, 전 세계 규제 당국의 조사에 이어 나왔다. 캐나다, 캘리포니아, EU와 프랑스와 같은 개별 회원국들은 그록이 생성한 이미지가 사람들의 권리를 침해하는지 여부를 들여다보고 있으며, 말레이시아·인도네시아·필리핀은 국내에서의 접속을 제한했다.

이번 주 초, 그록을 책임지는 회사 xAI는 이용자들이 그록 챗봇을 이용해 실제 인물의 성적 이미지를 만들어내는 기능을 차단하고 있다고 밝혔다.

shhwang@newspim.com

저작권자(c) 글로벌리더의 지름길 종합뉴스통신사 뉴스핌(Newspim), 무단 전재-재배포 금지