'진짜 같은 가짜' 딥페이크로 선넘는 AI…"어떻게 막나"

인간 존엄성 건드리는 사회적 폐해로
정부·기업들 예방·대응책 마련 분주

'딥페이크(Deepfake)'가 선을 넘었다. 딥페이크 기술을 이용해 유명 연예인·정치인뿐 아니라 일반인의 얼굴을 다른 사람 신체와 합쳐 영상을 만드는 행위는 '장난' 수준이 아니기 때문이다. 가짜 정보·음란물을 잽싸게 만들고 온라인을 통해 순식간에 확산하면서 회복하기 어려운 피해를 만드는 범죄 행위가 평범한 시민들의 일상을 위협하고 있다.

일상 위협하는 딥페이크

딥러닝(Deep learning)과 가짜(Fake)의 합성어인 딥페이크는 인공지능(AI) 기술을 기반으로 진짜 같은 가짜 사진·동영상을 만드는 기술이다. 이런 기술을 이용하면 다양한 이미지와 영상을 손쉽고 빠르게 만들 수 있다는 장점이 있다.

문제는 이런 기술을 악용해 정교한 가짜 정보·음란물을 제작하고 유포하면 사회적 혼란·정신적 트라우마 등 심각한 문제를 야기할 수 있다는 점이다. AI 기술이 점점 발전하면서 가짜와 진짜를 구분하기 어려울 지경에 이르고, 누구나 쉽게 만들 수 있는 까닭에 우려는 더욱 커진다.

실제로 올해 초 미국의 유명 가수 테일러 스위프트의 딥페이크 영상이 SNS 'X'(옛 트위터)를 통해 유포되면서 사회적 문제가 됐고 젤렌스키 우크라이나 대통령이 러시아와의 전쟁 포기를 말하는 딥페이크 영상도 나와 논란을 낳았다.

딥페이크 피해 사례는 유명인과 일반인을 가리지 않는다. 지난 5월에는 한국인 여성이 미국 전기차 브랜드 '테슬라' 창업자 일론 머스크를 사칭한 사람과 영상통화를 하다가 약 7000만원을 뜯긴 '로맨스 스캠'(연애 빙자 사기) 사건이 알려지기도 했다.

최근 국내에선 일반인의 얼굴을 다른 사람 신체와 합성한 딥페이크 피해 사례가 급부상하며 우려가 쏟아지고 있다. 특히 청소년과 교직원의 피해 사례가 알려지며 더욱 큰 충격을 주고 있다.

교육부에 따르면 올 1월부터 이달 초까지 학생·교원의 딥페이크 피해 사례는 434건에 달했다. 지난달 27일 1차 조사 결과 127건이었는데, 열흘 만에 238건이나 추가된 것이다.

분주한 각국 정부·기업 "딥페이크 막아라"

이처럼 누구나 쉽게 딥페이크를 만들고 누구든 피해자가 될 수 있는 상황이 심각성을 더하고 있는 까닭에, 각국 정부와 주요 기업들은 대책 마련에 분주한 상황이다.

지난달 미국에선 '가짜 금지법(NO FAKES)'이 초당적으로 발의돼 눈길을 끌었다. 본인 동의 없이 딥페이크로 생성된 영상이나 음성에 대해 손해배상 청구가 가능한 것이 골자다. 또한 개인과 회사가 생성형 AI로 만들어진 것을 포함해 동의 없이 만들어진 복제물을 생산, 호스팅, 공유하면 이에 대한 책임을 부여한다는 내용이 담겼다.

유럽연합(EU)도 딥페이크 콘텐츠에 라벨을 붙이고 사용자가 이를 식별할 수 있도록 요구하고 있다. 중국은 불법·유해한 정보를 생산·복사·출판·유포하거나, 타인의 신분을 위조해 명예를 훼손하는 사기 행위에 딥페이크 기술을 쓰는 것을 원천 금지했다.

우리 정부도 분주하게 움직이고 있다. 지난달 말 윤석열 대통령이 국무회의에서 딥페이크 유포 등 디지털 성범죄에 강력히 대응할 것을 지시한 직후, 과학기술정보통신부와 여성가족부는 피해 예방·피해자 지원방안에 대해 긴급 점검하는 자리를 열었다.

앞서 여가부와 과기정통부는 7월부터 합동으로 '딥페이크 기반 디지털 성범죄 피해 예방 및 보호방안 마련'을 위해 정책연구를 추진하는 등 협업하고 있는데, 이런 연구를 기반으로 관련 법제를 정비하고 딥페이크 탐지 시스템을 구축할 방침이다.

방송통신위원회도 지난 12일 방송통신심의위원회, 시청자미디어재단과 함께 전문가 토론회를 열고 논의 결과를 향후 정책사항에 반영하도록 노력하기로 했다.

고학수 개인정보보호위원회 위원장은 최근 개최한 정례 브리핑에서 "딥페이크는 사람의 존엄성을 건드리는 사안"이라며 "기존 법이 실효성이 높진 않으므로 법 개정을 해야 할 것"이라고 말했다.

기업들도 딥페이크 유포 예방, 탐지 기술 개발 등에 나서고 있다.

미국 구글은 지난 5월 말부터 딥페이크 음란물 관련 정보 또는 광고를 금지했다. 올해 초 메타(옛 페이스북)는 AI로 만든 콘텐츠에 라벨을 붙이겠다고 발표했고, 오픈AI도 자사 이미지 생성 AI가 만든 이미지에 출처·진위 확인을 위한 워터마크를 부착하기로 했다.

국내 최대 포털 네이버는 딥페이크 영상물이나 이미지 등을 신고할 수 있는 채널을 개설했다. 실시간 AI 이미지 필터링 시스템 '클로바 그린아이'를 네이버 카페, 블로그 등에 적용하고 24시간 모니터링에도 나섰다.

국내 1위 모바일 메신저 카카오톡을 운영하는 카카오는 오픈 채팅에서 모니터링을 진행하고 있다. 카카오톡의 경우 허위 영상물 배포·제공 행위가 적발되면 카카오톡 전체 서비스를 영구 제한한다. 포털 다음도 딥페이크 관련 검색어를 청소년 보호 검색어로 지정했다.

정보통신기획평가원은 "딥페이크 범죄의 심각성을 고려할 때 처벌과 함께 피해자 보호를 위한 긴급 조치를 강화해야 한다"며 "딥페이크 범죄 예방·대응을 위해선 온라인 플랫폼 기업들의 딥페이크 감지·삭제 기술 개발과 신속한 적용이 필요하다"고 주문했다.

ⓒ비즈니스워치(www.bizwatch.co.kr) - 무단전재 및 재배포금지