'AI 기본법' 연내 제정 가시화…"규제보다 지원 vs 악용 막아야"

생성형 AI 결과물에 워터마크 의무화…딥페이크는 가시적 방식

생명·안전 관련 고위험 AI 제공자는 이용자에게 사전 고지

ⓒ News1 DB

(서울=뉴스1) 신은빈 기자 = 인공지능(AI) 산업 지원과 규제 내용을 담은 'AI 기본법'이 연내 제정을 눈앞에 두고 있다. AI 기술이 빠르게 발전하면서 관련 법이 필요했다는 의견이 있지만, 처벌 규정을 명시함으로써 기술 발전을 저해할 수 있다는 우려도 함께 나온다.

국회는 이달 21일 과학기술정보방송통신위원회(과방위) 정보통신방송법안심사소위원회(법안소위)에서 AI 기본법으로 발의된 법안 19개를 병합 심사한 뒤 대안(인공지능 발전과 신뢰 기반 조성 등에 관한 기본법안)을 통과시켰다.

법안은 26일 과방위 전체 회의 의결 후 법제사법위원회(법사위) 심사와 본회의 의결을 거칠 예정이다. 본회의를 통과하면 국내 AI 생태계를 아우를 법안이 제정된다.

AI 기본법은 크게 생성형 AI로 만든 결과물에 워터마크를 삽입하도록 하는 내용과, 고위험 AI 서비스 제공자는 이용자에게 그 사실을 사전 고지하도록 하는 내용을 골자로 한다.

과방위 관계자는 생성형 AI를 사용한 결과물은 모두 워터마크를 표시하도록 의무화했다고 설명했다. 다만 워터마크 삽입 방식은 비가시적·가시적 방식을 따로 규정하지 않고 서비스 제공자의 자율에 맡기겠다는 입장이다.

딥페이크(AI로 생성한 영상 조작물) 생성물은 가시적인 워터마크를 삽입하도록 규정했다. 누구나 명확하게 인식할 수 있도록 눈에 보이는 워터마크를 적용해야 이용자를 보호할 수 있다는 취지다.

고위험 AI 관련 규제도 명시했다. 고위험 AI란 사람의 생명, 신체 안전, 기본권 보호 등에 중대한 영향을 미칠 우려가 있는 영역에서 활용되는 AI를 뜻한다.

우선 고위험 AI 활용 제품·서비스 제공자는 이용자에게 고위험 AI 활용 사실을 사전 고지해야 한다. 각 사업체는 과학기술정보통신부 장관에게 고위험 AI 해당 여부를 확인 요청할 수도 있다.

만약 이 시정조치를 따르지 않을 경우 과태료를 부과한다. 앞서 과방위 소속 최민희·이해민 의원이 발의한 법안은 각각 최대 3000만 원과 5000만 원의 과태료를 부과한다고 명시했다.

그간 논의가 지지부진했던 AI 기본법이 연내 제정될 기미를 보이자 업계는 대체로 환영하는 분위기다. 유럽연합(EU)은 이미 AI 규제법(AI Act)을 도입한 만큼 글로벌 추세를 따라야 한다는 목소리도 있었다.

이재성 중앙대 AI 학과 교수는 "딥페이크 같은 AI 폐해를 막을 규제는 필수적인 조치"라며 "특히 이용자의 의료 서비스나 개인정보 등 중대한 부분은 철저하게 보호하는 것이 맞다"고 말했다.

그는 "고위험 AI 규제는 EU의 AI 규제법과 유사하다"며 "법제화해 두면 기업 입장에서도 유럽 진출 시 이중부담을 피할 수 있을 것"이라고 덧붙였다.

반면 규제보다 실효성 있는 조치와 산업 지원에 더 초점을 맞춰야 한다는 의견도 있다.

문형남 숙명여대 글로벌융합학부 교수는 "누구나 AI 생성물을 쉽게 만드는 세상인데 단순히 워터마크만 삽입한다고 폐해를 막을 수 있을지 의문"이라며 "AI 생성물임을 밝힐 필요는 있지만 기업과 개인의 입증 방식을 구분하는 등 현실적이고 구체적인 규정이 필요하다"고 말했다.

이어 "현재 법안의 골자 2가지는 모두 규제 관련"이라며 "법 위반 시 기업에 부과하는 과태료가 AI 기술 발전을 제약할 우려가 있다"고 강조했다.

bean@news1.kr

Copyright ⓒ 뉴스1. All rights reserved. 무단 전재 및 재배포, AI학습 이용 금지.