방통위, 구글·메타 등 플랫폼과 딥페이크 근절 방안 논의

AI생성물 표시·삭제 조치 등 자율규제 강화 요청
이상인 부위원장 “글로벌 사업자, 더욱 신속한 조치 당부”

정부가 최근 빠르게 확산하고 있는 딥페이크 허위조작정보에 적극 대응하기 위해 구글, 메타, 네이버, 카카오 등 국내·외 플랫폼 사업자와 회의를 가졌다.

방송통신위원회는 23일 딥페이크 허위정보에 대한 신속한 자율규제 강화 방안을 논의하는 민관협력 회의를 열었다고 밝혔다.

딥페이크는 인공지능(AI) 기술인 딥러닝과 페이크의 합성어로, 인공지능(AI) 기술을 이용해 진위 여부를 구별하기 어렵도록 다른 이미지·영상과 합성한 가짜 이미지나 영상물이다.

최근 딥페이크 기술을 활용한 유명인 관련 허위조작정보가 사회관계망서비스(SNS)를 통해 확산되면서 실제 사기 피해가 발생하는 등 사회적 문제로 대두되고 있다. 특히 윤석열 대통령이 스스로 윤석열 정부를 비판하는 딥페이크 허위조작영상이 SNS를 통해 빠르게 퍼지면서 경찰이 제작·유포자 수사에 나선 상황이다.

이에 따라 방통위는 사업자가 즉시 취할 수 있는 피해 예방 대책을 논의하기 위해 이날 회의를 열었다고 설명했다.

회의에는 국내·글로벌 플랫폼이자 AI 기술 개발사인 네이버, 카카오, 구글, 메타, 엑스(X·옛 트위터), 바이트댄스(틱톡) 관계자들이 참석했다. 참석자들은 AI 생성물 표시, 탐지 모니터링, 삭제·차단 조치 등과 관련된 자율규제 현황과 강화 방안 등에 대해 의견을 나눴다.

이상인 부위원장은 이날 회의를 주재하면서 “딥페이크 허위정보로 인한 개인 피해와 사회적 혼란을 예방하기 위해서는 플랫폼의 자정 노력이 무엇보다 중요하다”며 “특히 올해는 전 세계적으로 큰 선거들도 앞두고 있는 만큼, 더욱 적극적이고 선제적인 자율규제에 나서달라”고 요청했다.

이어 그는 국내 사업자에게 뮌헨 기술협약 등 글로벌 기업의 자율규제 강화에 상응하는 조치를 요청하고, 글로벌 사업자에게는 국내 사업자 수준의 신속한 조치에 최선을 다해 줄 것을 당부했다.

뮌헨 기술협약은 선거 관련 AI의 기만적 사용을 방지하기 위한 기술협약이다. 지난 16일 구글, 메타, 엑스(X), 틱톡 등 20개 주요 플랫폼·기술 기업이 자발적으로 서명했다.

[ⓒ 매일경제 & mk.co.kr, 무단 전재, 재배포 및 AI학습 이용 금지]