딥페이크 '탐지'의 진화…"위장수사도 확대"

<앵커>

중학생, 고등학생을 비롯해, 일반인을 대상으로 한 딥페이크 범죄가 갈수록 심각해지고 있죠. 정부가 딥페이크 범죄에 대한 위장수사 범위를 넓히고 처벌을 강화하는 내용의 대책을 발표했습니다.

홍영재 기잡니다.

<기자>

국내 업체가 개발한 딥페이크 탐지 프로그램입니다.

미국의 유명 가수 테일러 스위프트 영상을 검색하니, 일부 게시물에는 '진짜'라고, 다른 게시물에는 '가짜', 즉 딥페이크 합성물로 추정된다고 표시해 줍니다.

우선 동영상이 많이 올라오는 플랫폼부터 탐지할 수 있도록 개발 중입니다.

[이정수/딥브레인AI 이사 : 유튜브, 틱톡, 텔레그램, 레딧, 트위터 관련된 성인 채널들을 검색을 하고. 딥페이크 관련 영상이나 성착취물이 많이 나오는 사이트 위주로 (개발 중입니다.)]

해외 플랫폼들도 딥페이크 식별을 위한 기술적 조치를 확대하고 있습니다.

유튜브는 AI 도구로 생성한 영상물에 '합성된 콘텐츠'라는 이름표가 붙게 했고, 크리에이터들의 고지 의무를 강화했습니다.

[제니퍼 오코너/유튜브 콘텐츠 정책 부사장 : 라벨(이름표)이 생성형 AI콘텐츠 위험에 대한 완벽한 해결책은 아니지만 시청자들이 어느 정도 회의적인 시각으로 콘텐츠를 소비할 수 있도록 인식을 제고하는 것이 정말 필요합니다.]

딥페이크 대응 범정부 TF를 꾸린 정부는 이런 딥페이크 탐지와 차단 기술 개발 지원과 함께, 처벌 강화와 피해자 보호를 중심으로 대책을 내놨습니다.

딥페이크 영상으로 얻은 수익과 재산을 몰수, 추징하고, 아동, 청소년 허위 영상물 범죄에만 가능했던 위장수사 범위를 성인으로 확대하는 방향으로 법 개정을 추진합니다.

[김종문/국무조정실 국무1차장 : 텔레그램 오픈 채널에서 접속 링크와 비밀번호를 불특정 다수에게 배포해 접속을 유도하는 것을 청소년 유해물 제공·매개에 해당하는 것으로 청소년보호책임자 지정 등의 의무를 부과하고.]

또 성 착취물 의심 영상은 우선 차단 조치한 뒤 심의하고, 정부로부터 불법 영상물 삭제 요청을 받은 플랫폼 사업자는 24시간 내에 조치하도록 할 계획입니다.

(영상취재 : 김학모·하 륭, 영상편집 : 유미라)

홍영재 기자 yj@sbs.co.kr

▶ 네이버에서 SBS뉴스를 구독해주세요!
▶ 가장 확실한 SBS 제보 [클릭!]
* 제보하기: sbs8news@sbs.co.kr / 02-2113-6000 / 카카오톡 @SBS제보

Copyright ⓒ SBS. All rights reserved. 무단 전재, 재배포 및 AI학습 이용 금지