'생성형AI 워터마크 의무화'…22일부터 바뀌는 인공지능 신뢰법

[김영욱 기자]

‘생성형AI 워터마크 의무화’가 22일부터 시행된다. /대한민국 정책브리핑

(더쎈뉴스 / The CEN News 김영욱 기자) 인공지능 산업 혁신을 위한 '인공지능 발전과 신뢰 기반 조성 등에 관한 기본법'이 22일부터 효력을 발휘한다.

국가 인공지능 경쟁력 제고와 신뢰 형성 강화를 목표로 마련된 인공지능기본법은 2024년 12월 여야 합의를 통해 국회를 통과한 바 있다. 이번 법 제정은 세계에서 두 번째로 이뤄진 사례다.

새롭게 시행되는 인공지능기본법에는 인공지능 정책 추진 체계, 산업 활성화, 인프라 구축에 더해 혁신 기반 마련까지 포함됐다. 과학기술정보통신부는 원활한 시행을 위해 80명 이상의 민간 전문가가 참여한 하위법령 정비단을 지난해 1월부터 운영했으며, 그간 70차례가 넘는 의견수렴과 다수의 설명회를 통해 현장의 목소리를 반영했다.

특히 이번 법률은 국가 인공지능 정책 추진의 주축인 국가인공지능전략위원회 및 산하의 책임관 협의회, 각종 분과·특별위원회, 지원단 등 구체적 거버넌스를 명문화했다. 또한 인공지능 연구개발(R&D)과 학습용 데이터 구축·제공을 위한 범위와 기준도 시행령에서 집중적으로 다뤄졌다. 정부는 통합제공시스템을 직접 관리하며, 효율적 데이터 활용을 도모할 계획이다.

기업·공공기관의 인공지능 도입 확산에도 초점을 맞췄다. 정부 지원 근거를 시행령에 명시하고, AI를 실증하거나 성능이 검증될 수 있도록 공기업 및 공공기관, 국공립대학의 인프라가 기업에 개방된다.

동시에 글로벌 경쟁력을 고려한 기술·인력 교류, 기업의 해외진출 지원 방안과 함께 인공지능집적단지 지정도 제도화됐다. 집적단지 선정에는 정책의 부합성, 집적화 효과, 지역경제 기여도 등이 반영되며, 필요한 경우 지원 전담기관이 별도로 지정될 전망이다.

이번 인공지능기본법의 핵심 중 하나는 투명성 확보와 안전성 강화다. 법에 따라 고영향AI와 생성형AI를 활용하는 기업 및 사업자는 AI 도입 사실을 이용자에게 쉽게 알리도록 의무화했다.

또한 생성형AI 결과물이나 사회적 영향이 우려되는 딥페이크 결과물의 경우, 연령 등을 고려한 명확한 표시방식(워터마크 등) 도입이 요구된다. 딥페이크가 아닌 웹툰·애니메이션 등의 AI 결과물에는 디지털 워터마크나 안내창, UI 등을 통한 표시도 인정된다.

안전성 확보와 관련해서는, 일정 조건을 모두 만족하는 고도로 발전된 AI의 경우에만 해당 의무가 적용된다.

구체적으로는 10의 26승 FLOPs 이상의 누적연산량, 첨단 기술의 적용, 기본권 영향 가능성이 모두 충족돼야 하며, 자세한 적용 기준은 가이드라인으로 안내될 예정이다. 이는 인공지능의 통제불능 사태를 예방하고 사회적 피해를 사전에 차단하기 위한 조치다.

고영향AI 판단 기준, 고영향AI 사업자의 책임 또한 구체적으로 정해진다. 법률상 정의된 영역 내 AI 활용 및 위험도 등을 따지며, 최종 결정에 사람이 개입하면 고영향AI에서 제외된다.

과기정통부는 기업 혼란을 줄이기 위해 최소 1년 이상의 규제 유예 기간을 제공하며, 이 기간 사실조사와 과태료 부과는 중대한 사회문제 발생과 같은 극히 예외적인 경우에 한해 이뤄진다. 인공지능기본법 지원데스크 운영 및 익명성 보장 컨설팅도 병행한다.

보완된 가이드라인 수정본은 22일 법 시행과 함께 공개될 예정이며, 다음 달부터 산업계, 시민사회, 학계 의견을 수렴하는 '제도개선 연구반' 운영도 진행된다. 아울러 스타트업을 위한 현장 설명회가 이어질 계획이다.

과기정통부 관계자는 "AI 생성물 워터마크 적용은 글로벌 기업도 이미 시행 중인 안전 대책"이라며 "이번 법 시행으로 인공지능 생태계의 법적 불확실성이 해소되고, 안전하고 건전한 AI 환경이 조성될 것"이라고 밝혔다.

(더쎈뉴스 / The CEN News) 김영욱 기자 brod77@naver.com

<저작권자 Copyright ⓒ 더쎈뉴스(The CEN News) 무단전재 및 재배포 금지>