딥페이크 성범죄 근절 위해 여야 한자리에…"AI 윤리 교육 중요"

전문가 "메신저 플랫폼 대상 처벌 강화돼야" 목소리

기업들 자율규제만으론 역부족…AI 윤리 교육의 중요성↑

강도현 과기정통부 2차관 "정부 권한, 집행력 높일 것"

[이데일리 최연두 기자] 인공지능(AI) 딥페이크 성범죄를 근절하기 위해 여야 의원들과 산학계 전문가들이 한 자리에 모여 머리를 맞댔다. 이들은 딥페이크 기술 자체보다는 이를 악용해 만든 불법 영상물이 마치 실제인 것처럼 빠르게 유포되는 환경이 문제라는 데에 공감했다. 딥페이크에 대한 과도한 규제가 자칫 AI 산업의 성장을 막을 수 있는 만큼, 적절한 대응책이 필요하다는 제언이다.

김명주 서울여대 정보보호학부 교수(국제인공지능윤리협회 회장)가 5일 국회 과학기술정보방송통신위원회가 서울 여의도 국회에서 주최한 ‘딥페이크 성범죄영상물 어떻게 근절할 것인가’ 주제 정책 토론회에서 발제하고 있다.(사진=국회방송 캡처)

5일 국회 과학기술정보방송통신위원회는 서울 여의도 국회에서 ‘딥페이크 성범죄영상물 어떻게 근절할 것인가’를 주제로 정책 토론회를 개최했다.

이날 행사에는 최민희 과방위원장(더불어민주당)을 비롯해 최형두 과방위 간사(국민의힘)와 김현 더불어민주당 간사, 황정아 의원, 이상일 의원, 김장겸 의원, 신성범 의원, 이훈기 의원, 박정훈 의원, 박춘권 의원, 최수진 의원 등 여야를 막론한 과방위 위원들이 자리했다.

전문가들은 플랫폼 업체의 주체적인 역할을 강조했다. 이날 발제자로 나선 김명주 서울여대 정보보호학부 교수(국제인공지능윤리협회 회장)는 “플랫폼 기업들은 서비스에 대한 책임 의식을 갖고 (불법영상 유포 등 위반 행위 발견 시) 정부와 공조를 맞춰 대응해야 할 필요가 있다”면서 “국내 기업들의 경우 스스로 규칙을 정해 지키는 자율규제를 시행하는 곳들이 많다. 이러한 작업들은 지속적으로 강화해야 한다”고 강조했다.

다만 기업별 자율규제만으론 딥페이크 불법영상을 줄이기 쉽지 않다고 입을 모았다. 이소은 국립부경대 미디어커뮤니케이션학부 교수는 “산업적인 대응 사례를 보면 대체로 플랫폼의 책무를 강화한다는 점에서는 긍정적이나, 현재로선 (대다수 불법영상 탐지를) 이용자 신고에 의존하고 있는 것도 맞다”고 했다. 이어 “자율규제는 사업자마다 기준이 상이하다는 점 역시 고려해봐야할 지점”이라고 했다.

딥페이크에 대한 낙인 효과를 우려하는 시각도 있다. 김명주 교수는 “딥페이크 기술을 규제하거나 플랫폼에 책임을 부여하고 처벌을 강화하는 등의 행위로 인해 생기는 부작용도 고려해야 한다”면서 “(최근 국내딥페이크 불법영상 등 사건으로) 기술을 잘 모르는 이용자들이 딥페이크에 대한 부정적인 인식을 많이 갖게 됐다“고 말했다.

국내는 해외와 달리 메신저 서비스에 대한 처벌 규정이 없다는 지적도 나왔다. 영국, 호주 등 국가는 소셜미디어 플랫폼뿐 아니라 메신저 애플리케이션(앱)도 규제 대상에 포함하고 있다. 반면 국내는 콘텐츠에 힘이 실린 정보통신망법이 적용되다 보니 상대적으로 관련 규정이 미비한 상황이다.

최진웅 국회입법조사처 과학방송통신팀 입법조사관은 “(메신저 앱을 규제 대상에 포함한 국가는) 정부에서 시정명령을 내린 뒤 이를 이행하지 않으면 벌금을 물린다. 그럼에도 지속적으로 위반 행위를 하면 서비스 차단 조치를 내린다”고 설명했다. 시정 조치하지 않으면 현지 사업하는 해외 업체의 수익을 막을 수 있는 셈이다.

그러면서 최진웅 입법조사관은 “기존 정보통신망법으로 규제하다 보니 메신저 앱 대상 처벌이 미흡할 수밖에 없다”면서 “사업중지 명령이 담긴 전기통신사업법 조차도 해당 규정이 미비하다”고 짚었다.

이날 전문가들은 국내 초중고 학생들을 중심으로 ‘지인 능욕’이라는 일종의 놀이 문화로 전락한 딥페이크 합성이 불법 행위라고 확실히 인지시켜야 한다고 강조하기도 했다. AI 윤리 교육의 지속적으로 이뤄져야 한다는 제언이다.

이날 토론회에 참석한 강도현 과학기술정보통신부 2차관은 “사진이 아닌 동영상에 실제 사람의 얼굴을 합성한 콘텐츠가 마치 진짜인 것처럼 느껴지게끔 제작되는 상황”이라며 “이는 누구 혼자만의 문제가 아니다. 모든 사람의 피해를 입고 있다”고 말했다.

강도현 2차관은 “정부가 여러 부처들을 모아 빠르게 논의한 성과가 일부 나오고 있다”면서 “국제 공조를 공고히하고 더불어 정부의 법적 권한에 대한 집행력을 높이겠다. AI에서 파급되는 문제를 어떻게 처리할 것인지에 대해 공론화 과정도 필요할 것으로 보인다”고 말했다.