AI 생성물에 워터마크 도입 요구 늘어…“법제화 서둘러야”

게티이미지뱅크

인공지능(AI)을 악용한 가짜뉴스, 딥페이크 범죄 등을 막기 위해 AI 생성물에 워터마크를 도입해야 한다는 목소리가 커지고 있다.

AI가 만든 생성물을 식별할 수 있게 하자는 내용의 국민동의청원이 지난 27일 5만명을 초과, 소관위원회인 문회체육관광위원회에 회부됐다.

현행 국회법에 따라 공개일로부터 30일 이내에 5만명 이상 동의를 얻은 국민동의청원은 소관 상임위원회에 회부된다.

27일 AI가 만든 생성물을 식별할 수 있게 하자는 내용의 국민동의청원이 5만 명을 초과, 소관위원회인 문회체육관광위원회에 회부됐다. [사진=국민동의청원 웹사이트 캡처]

21대 국회가 29일 종료되는 만큼 해당 청원의 수명도 3일에 불과하지만, 워터마크 등 AI 생성물 식별에 대한 여론이 커지고 있음을 방증하는 것이라는 평가가 나온다.

정부는 이 같은 여론과 맞물려 올해 AI 저작물에 워터마크 표시를 의무화하는 등 가짜 뉴스 생성·유통·확산 전주기 대응 체계를 구축하기로 했다.

과학기술정보통신부는 AI 기술의 안전성과 신뢰·윤리 확보 등을 골자로 하는 '새로운 디지털 질서 정립 추진계획'을 관계부처 합동으로 마련해 지난 21일 국무회의에 보고했다.

22대 국회에서 AI 기본법 논의를 진전시켜 AI 워터마크를 의무화하는 것이 목표 중 하나다.

전문가들도 관련 법안의 입법에 속도를 높여야 한다고 입을 모은다. AI 산출물에 대한 표시를 의무화하는 '콘텐츠산업진흥법 일부개정법률안', '정보통신망법 개정안', 'AI 기본법' 등이 21대 국회에서 발의됐지만 모두 국회 문턱을 넘지 못했다.

이성엽 고려대 기술경영전문대학원 교수는 “AI 생성물 워터마크 도입을 법제화하는 것은 가장 기본적인 것으로서 필요하다”며 “AI기본법이 21대 국회에서 통과가 어려워진 만큼 22대 국회에서는 통과돼야 한다”고 말했다.

김명주 서울여대 정보보호학과 교수는 “AI 생성물은 미디어에서 연예인의 어린 시절을 구현하는 등 긍정적인 측면도 있어, AI 워터마크 도입과 관련한 산업 규제와 진흥이 동시에 논의돼야 한다”며 “이를 총괄할 수 있는 헤드쿼터가 만들어져야 한다”고 강조했다.

현대인 기자 modernman@etnews.com

[Copyright © 전자신문. 무단전재-재배포금지]