“이건 AI가 만들었습니다” 22일부터 의무 표시

대한민국이 1월 22일부터 세계 최초로 '인공지능(AI) 기본법'을 전면 시행하며, 생성형 AI가 만든 결과물에 대한 표시 의무가 본격적으로 적용된다. AI가 생성한 콘텐츠에 'AI 제작물'임을 알리는 이른바 'AI 꼬리표' 부착을 법으로 규정한 것으로, 이용자의 혼란을 막고 기술 활용 전반의 투명성을 높이겠다는 취지다.

정부는 하위 가이드라인을 통해 적용 대상과 표시 방식까지 구체화하며 제도 안착에 속도를 내고 있다.

22일 <메트로경제 신문> 취재 결과, 정부가 마련한 하위 가이드라인은 '누가, 언제, 어떻게 표시해야 하는지'를 서비스 유형별로 세분화하며 산업 현장에서 제기돼온 혼선을 상당 부분 해소한 것으로 나타났다. 특히 생성형 AI를 활용한 콘텐츠의 표시 책임을 개인 창작자가 아닌 서비스 제공 사업자에게 귀속시킨 점이 핵심으로 꼽힌다.

이번 법안과 가이드라인에서 가장 주목해야 할 점은 규제의 주체다. 과학기술정보통신부는 투명성 확보 의무를 이행해야 하는 주체를 이용자에게 AI 제품 및 서비스를 직접 제공하는 '인공지능사업자'로 명시했다. 여기에는 구글이나 오픈AI 등 해외 사업자도 포함된다.

반면 AI를 단순한 업무 도구나 창작의 보조 수단으로 활용하는 개별 유튜버나 웹툰 작가 등 '이용자'는 규제 대상에서 제외됐다. 즉, 창작자가 AI를 활용해 콘텐츠를 만들었을 때 그 사실을 표시해야 할 법적 책임은 창작자 개인이 아닌 해당 AI 툴을 제공한 기업의 시스템에 귀속된다는 의미다.

표시 방식은 생성물이 소비되는 환경에 따라 '서비스 내부'와 '외부 반출'로 엄격히 구분된다. 챗봇이나 게임처럼 서비스 환경 내에서만 결과물이 제공될 경우, 초기 화면 안내나 로고 표출 등 사용자 인터페이스(UI)를 활용해 유연하게 표시할 수 있다.

하지만 생성된 텍스트, 이미지, 영상 등이 다운로드되거나 공유되어 외부로 나갈 때는 상황이 달라진다. 이 때는 사람이 명확히 인식할 수 있는 가시적·가청적 워터마크를 적용하거나 기계 판독이 가능한 메타데이터 등의 기술적 조치를 반드시 병행해야 한다.

현장에서 가장 혼란을 빚었던 'AI 편집'에 대해서도 구체적인 기준이 마련됐다. 단순히 영상의 길이를 자르거나 구간을 재배치하는 '트리밍' 등 생성형 AI의 본질적 기능이 개입되지 않은 단순 편집은 표시 의무가 없다. AI를 일종의 '디지털 가위'로만 사용했다면 규제하지 않겠다는 방침이다.

그러나 AI가 없는 장면을 새로 만들어 넣거나 인물의 표정과 입 모양을 보정하는 등 맥락을 재구성하는 순간 이는 '생성'으로 간주되어 표시 의무가 발생한다.

특히 실제와 구분하기 어려운 가상의 생성물인 '딥페이크'의 경우, 장소와 관계없이 사람이 즉각 인식할 수 있는 표시를 반드시 하도록 규정해 보안성을 강화했다. 일반 생성물은 눈에 보이지 않는 디지털 워터마크를 허용하지만, 딥페이크만큼은 예외 없는 시각적 고지를 강제한 것이다. 이는 선거 조작이나 범죄 악용 등 AI의 사회적 부작용을 최소화하겠다는 정부의 강력한 의지가 반영된 결과로 풀이된다.

AI 생성물 표시 의무를 위반할 경우, 사업자는 최대 3000만 원의 과태료 처분을 받을 수 있다. 다만 정부는 제도 시행 초기 산업계의 혼란을 방지하기 위해 최소 1년 이상의 유예 기간을 두고 사실조사 또한 유예하며 처벌보다는 현장 안착에 주력할 예정이다.