"AI로 영화 만들면 '워터마크' 붙여야 하나요?" 과기부 답변은

AI 기본법 22일 시행…'투명성' 기준 가이드라인 제공

과학기술정보통신부 로고

과학기술정보통신부(이하 과기정통부)가 21일 '인공지능 발전과 신뢰 기반 조성 등에 관한 기본법'(AI 기본법) 상 'AI 투명성 확보 가이드라인'을 공개했다. 투명성 확보 의무 대상을 국내에서 AI 제품 및 서비스를 직접 제공하는 AI 사업자로 규정하고, 해외 사업자 역시 국내 이용자에게 서비스한다면 대상이 되도록 한 것이 주된 내용이다.

과기정통부는 오는 22일 AI 기본법 시행을 앞두고 '투명성 확보 의무' 적용 기준이 모호하다는 지적이 지속됨에 따라 구체적인 가이드라인을 마련했다고 밝혔다.

우선 운영 환경이나 저작물이 AI로 만들어졌음을 밝히도록 한 '투명성' 확보 의무 대상을 AI 제품 및 서비스를 직접 제공하는 '인공지능사업자'로 규정했다. 국내 이용자들에게 AI 제품·서비스를 제공하는 오픈AI, 구글 등 해외 사업자도 포함된다.

AI 기술이나 서비스를 단순히 업무나 창작의 '도구'로 활용하는 이용자는 의무대상에 해당하지 않는다. 예를 들어, 웹툰스튜디오가 웹툰의 채색을 AI로 하거나, 제작사가 영상 생성 AI를 이용해 영화를 제작할 경우 등이다. 이들이 사용한 AI에서 창작물에 자동 워터마크를 붙인다. 그러나 제작사나 편집자가 이를 임의로 지워 영화를 만들 경우 법 위반이 아니다. 사람이 AI 생성물을 한번 통제를 한 경우 법 위반이 아니라고 본다.

사진=과기정통부

투명성 확보 의무는 △고영향 또는 생성형 AI 기반 운용 사실의 사전 고지(제1항) △AI 생성물이 생성형 AI로 만들어졌다는 사실의 표시(제2항, 제3항)로 나뉜다.

사전 고지 의무는 이용자가 AI 제품·서비스 이용 시 고영향·생성형 AI 기술이 적용된 사실을 미리 인지할 수 있도록 한 내용이다. 사업자는 서비스 이용약관이나 계약서에 이를 명시하거나, 소프트웨어·앱 구동 화면에 고영향·생성형 AI 기반으로 운용된다는 사실을 알려야 한다. 오프라인 서비스의 경우 이용자가 쉽게 볼 수 있는 장소에 안내문을 게시해야 한다.

AI 생성물 표시 의무는 '서비스 환경 내에서만 이용될 경우'와 '외부 반출'을 구분했다. 생성물이 서비스 환경 내에서만 제공될 때는 사용자 이용 환경(UI)이나 로고 표출 등을 통해 표시할 수 있다. 예를 들어, 챗봇 등 대화형 서비스를 이용할 때는 안내나 화면 내 로고 표출만으로도 의무를 지켰다고 인정한다. 게임·메타버스는 로그인 시 안내나 캐릭터에 AI임을 표시하면 된다.

AI 생성물을 외부로 반출할 때는 명확히 표시해야 한다. AI로 만들어진 텍스트, 이미지, 영상 등을 다운로드하거나 공유할 때는 '워터마크' 등을 달아 이용자가 명확히 인식할 수 있게 표시하거나, 문구·음성 안내를 제공해야 하고 '기계가 판독할 수 있는 방법'(메타데이터 등)을 적용하도록 했다. 특히 딥페이크물 같은 경우 반드시 명확하게 AI 생성물임을 밝히도록 할 계획이다.

과기정통부는 "AI 생성물에 대한 워터마크 적용은 딥페이크 오용 등 기술의 부작용을 막기 위한 최소한의 안전장치이자, 이미 주요 글로벌 기업들이 도입하고 있다"면서 "다만 제도 도입 초기 현장의 준비 부족에 대한 우려가 있는 만큼, 최소 1년 이상의 충분한 계도기간을 운영하고 업계와 긴밀히 소통하겠다"고 밝혔다.

한편 AI 기본법은 AI 산업의 체계적인 육성과 안전한 활용 기반을 조성하기 위해 지난해 1월21일 제정된 법률로 오는 22일 전면 시행된다. 다만 1년 이상 계도기간을 두고, 투명성 조항도 해당 기간 중 사실조사 및 과태료 부과를 유예하기로 했다.

김소연 기자 nicksy@mt.co.kr

Copyright ⓒ 머니투데이 & mt.co.kr. 무단 전재 및 재배포, AI학습 이용 금지.