“AI로 생성됨” 꼬리표로 딥페이크 피해 예방한다

성착취물·가짜뉴스 등 확산에 안전장치로 ‘워터마크 의무화’ 거론

구글·메타 등 이미 도입…100여개 기업, 기술 표준 개발 머리 맞대

딥페이크 기술을 이용한 성착취물 피해가 확산하면서 인공지능(AI) 생성 콘텐츠에 ‘꼬리표’를 다는 워터마크 의무화 방안이 부각되고 있다.

AI 워터마크는 AI 기술로 제작한 콘텐츠에 삽입되는 표식이다. 눈에 띄는 표식을 넣을 수도 있고, 보이지 않는 정보를 심는 방법도 있다. 실제와 구분하기 어려운 이미지와 영상, 음성을 동원한 가짜뉴스가 범람하고 성착취물 피해가 커지면서 각국은 워터마크를 AI 안전장치로 검토하고 있다.

한국 정부도 지난 5월 ‘새로운 디지털 질서 정립 추진계획’의 일환으로 AI 생성물 워터마크 의무화를 내걸었다. 국회에는 관련 법안들이 발의돼 있다.

AI 워터마크 도입을 의무화하면 인터넷 이용자들이 가짜 콘텐츠에 속아 발생하는 피해를 예방할 수 있을 것으로 기대된다. 범죄자 입장에선 딥페이크 범죄를 감행할 유인이 줄어들 수 있다. 물론 각종 기술로 워터마크와 이를 탐지하는 도구가 무력화될 수 있는 한계도 존재한다.

전 세계적으로 기술기업들이 워터마크 도입에 나서고 있는 점은 긍정적이다.

구글, 오픈AI, 메타 등은 자사 AI 도구로 만든 이미지 등에 워터마크를 새긴다. 이미지, 영상을 넘어 텍스트까지 AI 생성 여부를 가려낼 수 있는 기술을 개발하고 있다.

구글, 마이크로소프트, 인텔, 어도비 등 100여개 기업들은 ‘콘텐츠 출처 및 진위 확인을 위한 연합(C2PA)’을 꾸려 워터마크 기술 표준 개발에 머리를 맞댔다. 국내에선 네이버가 동참하고 있다. 이를 토대로 일부 플랫폼은 타사 AI 도구로 만든 콘텐츠까지 식별해 자동으로 ‘AI 생성’ 표시를 추가하는 정책을 시행 중이다. 정작 딥페이크 범죄의 통로가 된 메신저 텔레그램은 AI 안전을 추구하는 흐름에서 벗어나 있다.

이성엽 고려대 기술경영전문대학원 교수는 28일 통화에서 “딥페이크로 인한 피해가 극심한 만큼 워터마크 의무화는 최소한의 규제라고 본다”며 “의무화를 원칙으로 하되 기업이 어려움을 겪는 부분은 정부가 지원하는 방향으로 가야 한다”고 말했다.

노도현 기자 hyunee@kyunghyang.com

▶ 매일 라이브 경향티비, 재밌고 효과빠른 시사 소화제!
▶ 해병대원 순직 사건, 누가 뒤집었나? 결정적 순간들!

©경향신문(www.khan.co.kr), 무단전재 및 재배포 금지