“딥페이크는 필수, 유튜버·웹툰 작가는 제외”…정부, AI 표시 의무 구체화

AI 자료 사진 [게티이미지뱅크]

[헤럴드경제=박혜림 기자] 과학기술정보통신부가 오는 22일 ‘인공지능 발전과 신뢰 기반 조성 등에 관한 기본법(이하 인공지능기본법)’의 전면 시행을 앞두고, 투명성 확보 의무의 구체적인 이행 방안을 담은 ‘인공지능 투명성 확보 가이드라인’을 공개했다.

과기정통부가 21일 공개한 이번 가이드라인은 실제 현장에서 운영 중인 AI 제품 및 서비스 유형을 바탕으로 구체적인 표시 기준을 제시한 것이 특징이다.

법 조문과 시행령만으로는 규제 기준이 모호하다는 업계의 지적을 수용했다.

우선 가이드라인은 투명성 확보 의무를 이행해야 하는 주체를 이용자에게 AI 제품 및 서비스를 직접 제공하는 ‘인공지능사업자’로 명확히 규정했다. 여기에는 구글이나 오픈AI 등 국내 이용자를 대상으로 AI 서비스를 제공하는 해외 사업자도 포함된다.

반면 AI 기술을 단순 업무나 창작의 ‘도구’로 활용하는 이용자는 규제 대상에서 제외했다. 이에 따라 AI를 이용해 영화를 제작하거나 콘텐츠를 만드는 제작사는 AI 제품을 직접 제공하는 사업자가 아니므로 표시 의무를 지지 않게 된다.

투명성 확보 의무의 핵심인 AI 생성물 표시 기준은 생성물이 소비되는 환경에 따라 ‘서비스 내부’와 ‘외부 반출’로 이원화했다. AI 생성물이 서비스 환경 내에서만 제공될 경우에는 사용자 이용 환경(UI)이나 로고 표출 등을 통해 유연하게 표시할 수 있도록 했다.

가령 챗봇 서비스는 이용 전 안내나 화면 내 표기를 인정하며, 게임이나 메타버스는 로그인 시 안내 혹은 캐릭터에 AI임을 표시하는 방식 등을 허용해 기업의 서비스 운영 부담을 줄였다.

반면 AI 생성물이 외부로 반출되는 경우에는 보다 엄격한 기준이 적용된다. 생성된 텍스트, 이미지, 영상 등을 다운로드하거나 공유할 때는 가시·가청적 워터마크를 적용해 사람이 명확히 인식할 수 있도록 하거나, 기계 판독이 가능한 메타데이터 등의 기술적 조치를 병행해야 한다. 특히 실제와 구분하기 어려운 가상의 생성물인 딥페이크의 경우, 이용자의 혼란을 방지하기 위해 장소와 관계없이 사람이 명확하게 인식할 수 있는 표시를 반드시 하도록 명시했다.

이와 함께 사업자는 고영향·생성형 AI 기술이 적용된 사실을 이용자가 미리 인지할 수 있도록 사전 고지 의무를 이행해야 한다. 서비스 이용약관이나 계약서 명시, 앱 구동 화면 알림 등을 통해 AI 기반 운용 사실을 알려야 하며, 오프라인 서비스의 경우 안내문 게시 등 서비스 형태에 맞춘 이행 방법을 제시했다.

과기정통부는 “AI 생성물에 대한 워터마크 적용은 딥페이크 오용 등 기술의 부작용을 막기 위한 최소한의 안전장치이자, 이미 주요 글로벌 기업들이 도입하고 있는 세계적인 추세”라며 “다만, 제도 도입 초기 현장의 준비 부족에 대한 우려가 있는 만큼, 최소 1년 이상의 충분한 계도기간을 운영하며 업계와 긴밀히 소통해 제도가 현장에 원활히 안착될 수 있도록 지원하겠다”고 말했다.

또 가이드라인 공개 후 계도기간 중 기업들의 애로사항과 의견을 청취하고, 향후 새롭게 등장하는 서비스 유형과 기술적 특성 등을 반영해 가이드라인을 지속적으로 보완·고도화해 나간다는 방침이다.