'WACON 2024 생성형 AI 시대, 딥페이크의 양상과 대책 토론회' 국회에서 25일 열려

국회 지속가능 성장을 위한 구조개혁 실천포럼과 한국언론인협회가 공동주최한 '제3회 WACON 2024 생성형 AI 시대, 딥페이크의 양상과 대책 토론회'가 25일 국회의원회관 제2소회의실에서 열렸다.

국회 지속가능 성장을 위한 구조개혁 실천포럼(대표의원 고동진·안철수·이상식)과 한국언론인협회(회장 성대석)가 공동주최한 '제3회 WACON 2024 생성형 AI 시대, 딥페이크의 양상과 대책 토론회'가 25일 국회의원회관 제2소회의실에서 성황리에 개최됐다.

WACON 2024 사이버 보안성 강화 토론회는 사이버를 이용한 다양한 위협으로부터 국민 인권을 보호하고, 대응 방안을 사회 각 분야 전문가와 함께 논의하는 공익 목적의 행사로 과학기술정보통신부, 외교부, 국방부, 행정안전부, 개인정보보호위원회, 식품의약품안전처가 후원 기관으로 참여하고 있으며 한국지속경영평가원에서 주관사를 맡고 있다.

이날 토론회에서는 생성형 AI 시대를 맞아 딥페이크 기술이 고도화되면서 범죄에 악용되는 사례들이 증가하고 있어 이를 억제하고 다양한 해결 방안을 마련하기 위하여 각 분야의 전문가들이 한자리에 모여 뜨거운 토론을 펼쳤다.

토론회의 발제는 고려대학교 이성엽 교수가, 토론 패널에는 한국정보통신기술협회 김재범 팀장, 법무법인 동인 장형수 변호사, 라온시큐어 박현우 상무, 딥브레인AI 장세영 대표가 참석했으며, 좌장은 중앙대학교 이기혁 교수가 맡았다.

이성엽 교수는 발제를 통해 “딥페이크 성범죄 영상물에 대한 대처는 정부, 기업, 이용자 모두에게 주어진 시급한 과제로 기술적 보완은 물론 제도적 개선까지 가능한 모든 방법을 동원할 필요가 있다”면서 “이러한 신뢰 가능한 디지털 환경이 조성될 때 지속 가능한 혁신을 이룰 수 있다”고 빍혔다. 그러면서 “온라인상의 지나친 광범위한 규제는 표현의 자유가 침해될 수 있고, 플랫폼의 혁신을 저해하는 우려가 있다”며 신중한 접근을 당부했다. 그리고 “무엇보다 사업자의 자율규제나 이용자 리터러시 강화를 위한 철저한 디지털 윤리 교육 확대가 반드시 필요하다”고 강조했다.

김재범 팀장은 “과거에는 일일이 수작업을 통해 특수분장을 했다면, 현재는 생성형 AI 기반의 딥페이크 기술을 사용해 사실감 있고 매우 저비용이면서 이질감을 대부분 제거할 수 있는 시대를 맞고 있다”며 딥페이크 기술력의 정교함을 강조했다. 이어 “딥페이크 기술력이 허위나 조작된 정보로 악용될 경우 심각한 명예 훼손과 사회의 혼란이 초래되는 만큼 윤리적인 사용이 매우 중요하다”고 주장했다. 그리고 “현재 성폭력 범죄의 처벌에 관한 특례법이 시행을 앞두고 있지만 법률적 한계성이 있다”며 “딥페이크의 식별 및 탐지 가능한 기술을 개발해 유통자체를 방지하는 것이 피해를 예방하는 최선의 길”이라고 피력했다.

장형수 변호사는 ”청소년을 중심으로 AI 기반의 딥페이크 기술을 활용한 사이버 성범죄가 급속도록 확산되고 있다“면서 이러한 사이버 성범죄는 ”성적인 모욕감이 수반되는 명예훼손적 성격이라는 점에서 사태의 심각성이 있다“고 강조했다. 그러면서 ”문제는 죄의식 없이 무차별적인 유포가 행해지고 그 중심에는 10대들이 있다는 것이라며, 처벌 범위와 수위, 고의의 해석에 대한 사례 축척과 법률적 논의가 필요한 시점“이라고 역설했다. 그리고 ”완전한 피해 회복을 위한 영상 삭제 의무 및 비용부담 규정 신설, 사이트 운영자 책임 소재도 진지하게 논의할 때”라고 말했다.

박현우 상무는 “딥페이크 음란물의 피해자가 유명인에 한정된 기존과는 달리 친구나 지인 등 대상의 구분 없이 누구나 피해자가 되는 세상”이라며 “고도화된 피싱 방식에 딥페이크 기술이 융합되어 피싱 사기 피해는 앞으로 기하급수적으로 증가할 수 있다”는 예측을 발표하며 이에 대한 대비의 필요성을 강조했다. 이어 “주요 시스템 접근 또는 결제 시 사용되는 안면인증에 딥페이크가 위협이 된다”며 인증 시스템의 위험성을 지적하고 “정교해진 딥페이크 기술에 대한 대응 과제로 P2P 채널의 보호 조치와 P2P 인증에 접합한 분산ID”를 주장했다.

장해성 대표는 “딥페이크 범죄는 성범죄, 사기, 정치적 혼란 등 다양한 피해를 양산하며 기술이 발전됨에 따라 더욱 정교해지고 있다”면서 “유명인사 사칭, 투자 유도, 성적 착취물 제작 등 딥페이크 기술을 이용한 악용사례가 크게 증가하고 있다”고 강조했다. “딥브레인AI는 이러한 문제점을 예방하고 방지하기 위한 24시간 모니터링과 실시간 탐지가 가능한 자동 탐지 솔루션을 개발해 적용하고 있다”며 “딥페이크로 인한 사회적 문제 해결에 더욱 정진할 것”이고 밝혔다.

이호준 기자 newlevel@etnews.com

[Copyright © 전자신문. 무단전재-재배포금지]