美백악관, '서울대N번방' 같은 딥페이크 음란물 막기위해 나섰다

AI개발자·금융기관·클라우드컴퓨팅 업계에 공문…"차단 노력 절실"

구글·애플 등 '게이트키퍼'에도 협조 요청…"의회 법률 제정도 필요"

스톡홀름에서 공연하는 테일러 스위프트 [EPA 연합뉴스 자료사진. 재판매 및 DB 금지]

(멕시코시티=연합뉴스) 이재림 특파원 = 조 바이든 미국 행정부가 인공지능(AI)을 기반으로 영상과 이미지를 합성하는 기술인 '딥페이크'를 악용한 음란물의 제작·확산을 막고 관련 유통시장의 폐쇄를 위해 발 벗고 나섰다.

백악관은 23일(현지시간) AI 개발자, 금융 기관, 클라우드컴퓨팅 업체 등에 딥페이크 음란물을 통한 수익 창출을 막고 노골적인 이미지를 광고하는 사이트 결제를 제한할 것을 요구하는 내용을 담은 공문을 보냈다고 AP통신이 보도했다.

구글과 애플 등 모바일 애플리케이션(앱) 스토어를 관리하는 '게이트키퍼'에게도 딥페이크 음란물 생성과 확산을 막을 수 있는 일련의 조처를 요구했다고 AP는 전했다.

AI 기술을 활용한 딥페이크는 전 세계적으로 그 심각성을 더하고 있다.

지난 1월 말에는 테일러 스위프트의 얼굴 사진을 합성한 악의적인 딥페이크 음란물이 온라인에서 유포되면서 국제사회의 경각심을 불러일으켰다.

당시 마이크로소프트는 스위프트 이미지 중 일부가 자사 AI 도구에 의해 생성된 것을 확인한 뒤 안전장치 강화를 약속했다.

최근에는 유명인을 넘어 일반인 피해자, 특히 미성년자 피해도 양산되고 있다.

딥페이크 음란물은 한국에서도 사회문제로 부각하고 있다.

지난 3월 프랑스 매체 '르 몽드'는 한국을 '딥페이크 공화국'이라고 요약하며 "한국 여성들이 '내 인생은 당신의 포르노가 아니다'라는 슬로건 아래 처벌 강화 시위를 했다"고 보도하기도 했다.

최근 서울대 졸업생 2명이 동문을 포함해 수십명의 사진으로 불법 음란 합성물을 제작해 유포해 충격을 준 이른바 '서울대 N번방 사건'도 대표적인 사례 중 하나다.

백악관은 딥페이크를 시의적절하게 차단하기 위한 연방법이 미비한 상황에서 업계의 '책임 있는 행동'이 절실하다며 업계에 협조를 요청했다.

아라티 프라바카르 미 백악관 과학기술정책실장은 AP에 "주로 여성과 소녀를 대상으로 한, 합의되지 않은 이미지가 경이적인 속도로 만들어지는 걸 목격하고 있다"며 "가장 시급한 대처 방안은 기업들이 나서는 것"이라고 강조했다.

백악관은 이번 조처를 뒷받침할 수 있는 법적 장치 마련의 중요성도 피력했다.

제니퍼 클라인 백악관 젠더정책위원장은 기업들이 자발적으로 나서서 약속을 지킬 수 있도록 독려한다고 해서 "의회가 이 문제에 대한 조처를 마련해야 한다는 근본적인 필요 조건은 바뀌지 않는다"고 강조했다.

walden@yna.co.kr

▶제보는 카카오톡 okjebo
▶연합뉴스 앱 지금 바로 다운받기~
▶네이버 연합뉴스 채널 구독하기
<저작권자(c) 연합뉴스, 무단 전재-재배포, AI 학습 및 활용 금지>