'AI기본법' 시행 D-1…AI 생성물 워터마크 표시 의무화

[이진호 기자]

AI기본법 하위법령이 규제 최소화에 초점을 맞춰 제정된다. 최소 1년 이상의 과태료 계도기간을 두어 규제 유예 효과를 꾀한다. [사진: 셔터스톡

[디지털투데이 이진호 기자] 한국이 세계 최초로 'AI기본법'을 시행한다. 앞으로 AI사업자들은 AI로 만든 결과물을 이용자가 인지할 수 있도록 표시해야 한다. 사실조사는 인명사고, 인권 훼손, 국가적 피해를 초래한 때만 예외적으로 실시한다.

과학기술정보통신부는 이 같은 내용의 '인공지능 발전과 신뢰 기반 조성 등에 관한 기본법'이 22일부터 시행된다고 21일 밝혔다. 유럽연합(EU)은 앞서 AI 기본법과 성격이 흡사한 'AI Act'를 마련했지만 시행 시기는 2027년으로 잡아 한국이 세계 최초 시행국가가 됐다.

과기정통부는 "AI산업 진흥에 방점을 두고 필요최소 규제 원칙 아래 AI사업자 의무사항이나 제재는 최소화했다"며 "AI산업 진흥을 위한 사항은 폭 넓게 반영한 것이 특징"이라고 강조했다.

◆AI사업자만 생성형 AI 결과물 '표시' 의무

과기정통부는 기업이 다양한 방법으로 AI 생성물임을 고지할 수 있도록 시행령으로 규정했다. AI 생성물이 서비스 환경 내에서 제공될 떄는 외부 반출 사례와 구분해 유연한 표시를 허용한다.

AI 생성물이 서비스 환경 내에서만 제공될 때는 UI나 로고 표출 등을 통해 유연하게 표시할 수 있다. 예를 들어 챗봇 등 대화형 서비스는 이용 전 안내나 화면 내 로고 표출을 인정한다. 게임·메타버스는 로그인 시 안내나 캐릭터에 AI임을 표시하는 방식 등을 허용한다.

반면 AI 생성 결과물을 외부로 반출할 때는 보다 확실한 표시를 적용해야 한다. AI로 생성된 텍스트, 이미지, 영상 등을 다운로드·공유할 때는 '사람이 인식할 수 있는 방법(가시·가청적 워터마크 등)'으로 표시하거나, 문구·음성 안내 제공 후 '기계가 판독할 수 있는 방법(메타데이터 등)'을 AI 생성 결과물에 적용하도록 했다.

생성형AI 결과물, 사회적 부작용이 우려되는 딥페이크 결과물은 이용자 연령 등을 고려해 명확하게 인식할 수 있는 방법으로 표시하도록 했다. 딥페이크 결과물이 아닌 애니메이션 웹툰 등 AI결과물에 대해서는 가시적 방법뿐 아니라 눈에 보이지 않는 디지털 워터마크도 허용한다.

AI 기본법은 고영향 AI 제도를 도입했다. 고영향 AI는 법에서 정한 10개 영역에서 활용되는 경우로 한정한다. 해당 영역은 에너지 먹는물 의료 원자력 범죄 수사 채용 대출심사 교통 공공서비스 교육 등 생명·안전·기본권과 직결되는 10개 분야다.

고영향AI 판단 기준과 고영향AI 사업자 책무는 시행령에 구체화했다. 판단 기준은 AI가 법에서 정하는 영역에서 활용되었는지 여부와 위험의 중대성 등을 모두 고려한다. 동시에 최종 의사결정 과정에 사람이 개입하는 경우는 통제 가능한 것으로 판단해 고영향AI 대상에서 제외한다.

안전성 확보 의무도 규정했다. 고도로 발전한 AI가 통제 불가능에 빠진 상황을 가정해 큰 피해 발생을 예방하는게 목적이다. 안전성 의무 확보 대상으로는 학습에 사용된 누적연산량이 10의 26승 부동소수점 연산(FLOPs)이상 최첨단 기술 적용 위험도가 사람의 기본권에 광범위하고 중대한 영향을 미칠 우려가 있는 경우 등을 모두 충족해야 한다.

투명성 확보 의무 주체는 AI 제품 및 서비스를 직접 제공하는 'AI 사업자'로 명확히 했다. 국내 이용자를 대상으로 AI 제품·서비스를 제공하는 해외 사업자도 의무 대상이다. 이용자는 의무 대상에 해당하지 않는다. 제공받은 AI 제품·서비스와 생성물을 활용하는 입장이기 때문이다.

◆1년 이상 규제 유예…중대한 문제 발생 때만 사실조사

과기정통부는 기업 혼란을 최소화하고 현장이 준비할 시간을 제공하기 위해 최소 1년 이상 규제를 유예한다. 해당 기간 사실조사, 과태료 관련 계도기간을 운영한다. 사실조사는 인명사고, 인권훼손 등 중대한 사회적 문제 발생하는 등 극히 예외적인 경우에만 실시한다.

투명성·안전성 확보 의무와 고영향AI 판단 기준, 사업자 책무 이행 방법 등은 이날 발간한 투명성 가이드라인을 통해 확인할 수 있다. 과기정통부는 규제 유예 기간 동안 불확실성을 해소할 수 있도록 가이드라인을 보완해나갈 계획이다.

과기정통부는 이 밖에도 기업의 이행 준비 지원을 위해 하위법령 제정에 참여한 전문가로 구성한 지원데스크를 운영한다. 전문가들이 기업에게 상세한 컨설팅을 제공하는 채널이다. 영업비밀 유출을 막기 위해 상담 내용은 비밀로 관리하고 익명 컨설팅도 제공한다.

AI기본법 지원데스트 역할과 지원 절차. [자료: 과기정통부]

한편 AI기본법이 시행됨에 따라 국가AI전략위원회는 기존 대통령령에서 법률에 기반하는 법정위원회로 전환된다. AI기본법은 국가AI전략위원회 법적 근거, 전략위원회 내 분과위원회, 지원단, AI책임관 등에 관한 설치 근거를 마련했다.

산업 발전을 위해 AI R&D 학습용데이터 구축 AI 도입·활용 지원 창업 지원 AI융합촉진 전문인력 확보 AI데이터센터 구축 지원 등 법률상 지원 사항과 절차 등을 시행령에서 구체화했다.

김경만 과기정통부 인공지능정책실장은 "가보지 않은 길을 가는 만큼 글로벌 논의 최저 기준선에서 접근해 최소한의 규범을 마련하려고 한다"며 "AI기본법은 규제가 아니라 앞으로 글로벌로 나아가기 위한 기준점을 맞추는 관점"이라고 말했다.

<저작권자 Copyright ⓒ 디지털투데이 (DigitalToday) 무단전재 및 재배포 금지>