AI 기본법 Q&A…워터마크·고영향AI 뭐가 달라지나

웹툰·영상·이미지, 표시 기준 어디까지
해외 사업자 포함…이용자는 규제 대상 아냐

AI 기본법 Q&A…워터마크·고영향AI 뭐가 달라지나

인공지능안전연구소 방문한 배경훈 부총리 [과학기술정보통신부 제공. 재판매 및 DB 금지] photo@yna.co.kr

(서울=연합뉴스) 한상용 기자 = 우리나라에서 AI 산업 진흥과 규제라는 '2마리 토끼'를 노린 'AI 기본법'이 세계 최초로 시행되면서 실생활은 물론 AI 관련 기업에 어떤 영향을 미칠지 주목된다.

정부는 1년간 규제 유예 기간을 두고 국내 기업의 AI 모델·서비스 개발을 적극 지원하겠다는 입장이다.

그러나 국내 AI와 IT 업계에서는 일부 모호한 규정 탓에 여전히 혼란스러운 분위기도 감지된다.

주요 내용과 궁금증을 정부의 'AI 투명성 확보 가이드라인' 등을 토대로 일문일답 형식으로 정리했다.

-- AI 기본법 만든 이유와 핵심 내용은?

▲ 국가 차원에서 AI 산업 경쟁력을 높이는 동시에 안전하고 신뢰할 수 있는 AI 활용 기반을 조성하자는 취지에서 제정됐다. AI 기본법 내용은 크게 2가지로 요약된다.

첫번째 AI 산업 진흥 측면에서 AI 연구개발(R&D)과 학습용 데이터 구축, AI 도입·활용 지원, 창업 지원, AI 융합 촉진, 전문인력 확보, AI 데이터센터 구축 지원 등 법률상 지원 사항과 그 세부 기준과 절차 등을 시행령으로 구체화한 내용이다.

두번째 신뢰와 규제 측면에서는 AI 윤리와 검증·인증, 투명성·안전성 확보, 고영향AI를 규정하고 시행령을 통해 안전 사항 구체화, 적용 대상과 이행 방법 등을 법률로 명확히 한다는 내용이다.

-- AI 기본법 적용 대상은?

▲ AI 모델을 개발하고 이를 활용한 서비스를 직접 제공하는 기업과 사업자가 대상이다. 이들 기업과 사업자는 워터마크 부착이 골자인 'AI 투명성 확보 의무' 대상이기도 하다. 여기에는 국내 이용자에게 AI 제품과 서비스를 제공하는 해외 사업자도 포함된다.

하지만 AI 서비스를 단순히 업무나 창작 도구로 쓰는 소비자는 규제 대상이 아니다. AI 제품·서비스를 제공하는 AI 사업자가 아니라 제공받은 AI 제품·서비스와 생성물을 활용하는 입장이기 때문이다.

예를 들어 오픈AI와 구글, 네이버처럼 AI 모델을 개발하면서 서비스를 제공하는 기업의 경우 적용 대상이지만 챗GPT 이용자나 유튜브 시청자는 해당하지 않는다.

-- AI 기업이나 스타트업 일각에서 우려가 제기되는 이유는?

▲ AI 기본법 일부 규정의 모호성 때문이다. 가장 큰 우려를 표시하는 대목은 'AI 고영향'과 '워터마크' 기준이다. 정부는 국민 생명이나 권리에 큰 영향을 주는 분야의 AI를 '고영향 AI'라고 정의했다.

하지만 현장에서는 그렇다면 '중영향 AI' 또는 '저영향 AI'는 없는 것인지 또 국민 생명과 권리에 해당하는 영역을 어떻게 정할지 명확하지 않다는 것이다.

여기에다 '생성 AI에 의한 결과물'로서 워터마크를 부착했을 때 그 자체만으로도 소비자들에게 인위적이고 부정적인 이미지를 줄 것을 걱정한다. 전체 작업 중 AI 기술을 극히 일부만 사용했을 때도 'AI에 의한 결과물'로 봐야 할 지도 불명확하다는 것이다.

-- AI로 만든 모든 결과물에 워터마크를 표시해야 하나?

▲ 기본적으로 생성형 AI 결과물에 워터마크 표시 의무가 부여된다. 특히, 사회적 부작용이 우려되고 실제와 구분하기 어려운 딥페이크 결과물일 경우 AI 생성 사실을 이용자가 명확하게 인식할 수 있게 고지 또는 표시해야 한다.

일반 생성물의 경우에는 눈에 띄는 워터마크 말고 기계가 판독할 수 있는 비가시적 워터마크 사용이 허용했다.

예를 들어 딥페이크 결과물이 아닌 애니메이션과 웹툰에 대해서는 가시적 방법뿐 아니라 눈에 보이지 않는 디지털 워터마크를 쓸 수 있다. 이와 함께 AI 사업자가 알림창이나 사용자 인터페이스(UI) 등을 통해 생성형 AI 결과물을 안내하도록 규정했다.

서비스별 워터마크 방식은 과기정통부의 투명성 가이드라인을 참조하면 된다.

-- AI 기본법이 정한 '고영향' 범위는? 포함 여부를 잘 모르겠다면?

▲ AI 사업자는 '고영향AI'에 해당하는지 여부를 스스로 검토해야 한다. 고영향으로 규정할 때는 법적 영역 내 활용 여부, 기본권에 대한 위험 영향, 중대성, 빈도, 활용 영역별 특수성이 반영된다.

정부가 제시한 고영향은 에너지와 먹는 물, 의료, 원자력, 범죄 수사, 채용, 대출 심사, 교통, 공공서비스, 교육 등 10개 영역이다. 구체적 사례로는 '완전 자율주행 단계인 레벨 4 이상 차량'이 있다.

AI 사업자가 해당 여부를 잘 모르겠다면 과기정통부에 확인을 요청할 수 있다.

-- AI 기본법 위반 적발 시 과태료나 처벌은? 바로 조치 받나?

▲ AI 기본법상 의무를 위반하면 정부는 시정 명령과 최대 3천만원의 과태료를 부과할 수 있다.

그러나 바로 처벌받지는 않는다. 정부가 최소 1년 이상의 유예 기간을 두고 계도에 주력하기로 했기 때문이다. 정부는 계도 기간 업계와 긴밀히 소통하며 이 제도가 현장에 안착할 수 있도록 지원하겠다는 입장이다.

-- 정부가 AI 기본법을 위반했는지 사실조사도 실사한다는데?

▲ 그렇다. 다만, 현장 기업들의 혼란을 막고자 1년간 계도 기간에는 사실조사가 유예된다.

정부는 실제 시행한다고 해도 최소화한다는 원칙이다. 인명 사고와 인권 훼손과 같은 중대한 사회적 문제가 발생하는 등 극히 예외적인 경우에만 실시할 예정이라고 밝혔다.

gogo213@yna.co.kr

▶제보는 카카오톡 okjebo
▶연합뉴스 앱 지금 바로 다운받기~
▶네이버 연합뉴스 채널 구독하기
<저작권자(c) 연합뉴스, 무단 전재-재배포, AI 학습 및 활용 금지>