"딥페이크 음란물 처벌하려면 피해자가 강압 증명하라"는 미 테크 기업들

보수, 진보 모두 규제 필요성 공감하지만
제작·소지·배포 규제하는 2022년 법안에
테크계 "표현의 자유 침해"… 축소 주장
미 백악관 "법안 승인과 피해자 보호 촉구"

인공지능(AI)으로 영상·이미지를 합성 조작하는 기술을 뜻하는 '딥페이크(Deepfake)'. '딥러닝(Deep Learning)'과 '가짜(Fake)'를 합친 용어다. 게티이미지뱅크

미국에서 인공지능(AI)으로 영상·이미지를 합성하는 '딥페이크(deepfake)' 기술로 생성된 음란물 규제 논의가 이어지고 있다. 규제 필요성엔 공감대가 있지만 세부 내용에서 의견이 갈리는 탓이다. 제작·배포·소지 모두 처벌하는 법안이 발의됐지만, 기술업계 등은 악의성이 입증된 배포에 대해서만 처벌할 것을 주장한다고 외신은 전했다.

"미 의회, '딥페이크 포르노' 규제에 고심"

미국 정치전문매체 폴리티코는 26일(현지 시간) "의회 내 진보와 보수 진영 모두 AI로 당사자 동의 없이 생성된 성적 콘텐츠 억제를 위한 조치가 필요하다는 데 동의한다"며 "그러나 의원들은 해결책 초안을 작성하는 데 1년 넘게 분투해 왔다"고 전했다.

딥페이크 음란물 관련 입법 논의가 시작된 것은 2022년으로 거슬러 올라간다. 당시 캘리포니아주(州)에 거주하던 한 27세 여성은 인터넷에서 충격적인 영상을 발견했다. 자신이 거절했던 남성이 딥페이크 기술로 그와 남성 본인이 등장하는 음란물을 만들어 온라인에 퍼뜨린 것이다. 이는 법에 전혀 저촉되지 않았다고 폴리티코는 지적했다.

한 남성의 얼굴이 인공지능(AI) 기술로 인식되고 있다. 게티이미지뱅크

이 사건을 계기로 딥페이크 음란물 피해자를 보호하려는 입법 노력이 시작됐다. 민주당 소속 딕 더빈 미국 상원 법사위원장은 기존 여성폭력방지법의 개정안, 일명 '저항(Defiance)법'을 발의했다.

법안에 따르면 피해자가 딥페이크 영상물 생성에 동의하지 않았다는 사실을 가해자가 알았거나 부주의하게 무시한 경우, 피해자는 음란물의 제작·유포·소지자에게 15만 달러(약 2억 원)의 민사상 손해배상을 청구할 수 있다.

기술업계 "법안 축소해야"

그러나 기술 로비스트들은 이 법안에 반대하고 있다고 폴리티코는 전했다. 메타·구글 등이 포함된 테크산업 단체 넷초이스는 "위헌 소지가 크며 표현의 자유를 침해할 수 있다"며 반대 입장을 밝혔다. 넷초이스 측이 지난 3월 의회에 제출한 새 법안에 따르면, 처벌 대상은 딥페이크 음란물 '배포'로 한정되며 피해자는 '강압·괴롭힘·협박' 의도로 음란물이 공유됐다는 사실을 증명해야 한다.

이런 가운데 척 슈머 미국 민주당 상원 원내대표는 '저항법' 지지 여부를 밝히지 않았고, AI 분야 상원의원 세 명 중 한 명만이 명시적 찬성 의사를 밝혔다고 폴리티코는 설명했다.

기술업계의 태도는 비판을 불렀다. 성평등 강연자 루바 카소바는 지난 3월 영국 가디언 칼럼에서 "남성이 지배하는 AI 기업은 온라인에서 여성의 고통에 대한 공감 부족을 조장한다"고 비난했다. 버클리 캘리포니아대 하니 파리드 교수도 "딥페이크 음란물로 이익을 창출하는 당사자들의 도덕적 파산"이라고 꼬집었다.

미국 정부도 피해자 보호를 강조했다. 지난 23일 미 백악관은 성명을 통해 "우리는 2022년 제출된 여성폭력방지법 재승인을 기반으로, AI 생성 이미지를 포함한 이미지 기반 성적 학대의 피해자에 대한 법적 보호를 강화할 것을 촉구한다"고 밝혔다.

AP통신은 "이날 백악관은 연방법이 없는 상황에서 기업에 자발적 협력을 요청했다"며 "정부 관계자들은 민간 영역이 동의 없는 AI 이미지의 생성과 확산, 수익화를 억제할 수 있을 것이라고 기대한다"고 전했다.

김나연 기자 is2ny@hankookilbo.com