‘AI 기본법’ 22일 세계 첫 시행… “규제기준 불명확, 개정 나서야”

업계 “현실 반영 못해” 우려 목소리

‘고영향AI’ 판단 기준조차 모호

‘AI투명성 확보 의무’도 혼란

스타트업 2%만 “法 대응 준비”

국내에서 ‘인공지능(AI) 기본법’ 시행이 사흘 앞으로 다가온 가운데 업계에선 해당 법 시행에 따른 혼란을 우려하는 목소리가 나오고 있다. 세계에서 처음으로 AI 관련 법을 전면 시행하는 과정에서 시행착오가 예상되는 데다 이 법이 기술 구조와 산업계 현실을 반영하지 못해 시행과 동시에 개정이 필요할 것이란 의견도 나온다.

● 불명확한 기준에 우려하는 현장

22일부터 시행되는 AI 기본법의 정식 명칭은 ‘인공지능 발전과 신뢰 기반 조성 등에 관한 기본법’이다. 가이드라인 중심으로 운영되던 AI 정책을 법 체계로 전환하고, 산업 현장의 예측 가능성과 사회적 신뢰를 높이기 위해 마련됐다. 법이 시행되면 한국은 세계 최초로 AI 법 시행 국가가 된다. 법제화를 가장 서둘렀던 유럽연합(EU)은 일부 국가의 반발로 도입을 미뤘다.

이 법은 AI 연구개발(R&D), 학습용 데이터 구축 등 국내 AI 산업 육성을 위한 법률상 지원 규정이 담겼다. 동시에 AI의 투명성·안전성 확보 의무, 고영향 AI 기준 정립 및 사업자 책무 등도 포함된다. 생성형 AI와 고영향 AI를 이용한 제품·서비스에 대해 사전 고지를 의무화하고, 생성형 AI가 만든 음성·이미지·영상 등 결과물은 워터마크 등 별도 표시를 하도록 했다.

문제는 불분명한 기준이다. 대표적인 것이 규제 대상인 고영향 AI 정의다. 법안은 고영향 AI를 ‘사람의 생명, 신체의 안전 및 기본권의 보호에 중대한 영향을 미치거나 위험을 초래할 우려가 있는 인공지능 시스템’으로 규정했다. 영역으로는 에너지, 보건의료, 범죄 수사·체포, 교통 등 10가지로 나눴다. 그러나 업계에선 “‘중대한 영향’의 범위가 불분명하다”는 반응이 나온다. 과기부 관계자는 “수치 등 하나의 기준을 세우기 어렵다”며 “영역별 세부 질문을 담은 흐름도를 통해 고영향 AI 여부를 판단할 예정”이라고 말했다.

AI의 투명성 확보 의무 역시 기준이 불명확하기는 마찬가지다. 기본법 제31조에 따르면 서비스나 제품에 AI를 활용하는 사업자는 AI 활용 사실을 이용자에게 사전 고지해야 한다. 그러나 AI를 보조수단으로 활용하는 경우도 많은데 모두 표시해야 하는지 명확하지 않다. 한 AI 웹툰 스타트업 관계자는 “모든 생성형 이미지에 ‘AI로 된 이미지’라는 표시를 넣는 중인데, 이렇게 하는 게 맞는지 혼란스럽다”고 말했다.

한국인공지능법학회 회장인 최경진 가천대 법대 교수는 “강력한 규제보다 더 위험한 것이 불명확한 규제”라며 “AI 기본법은 핵심 개념과 구조가 충분히 다듬어지지 못한 채 남아 있어 사업 안정성에 부담을 줄 수 있다”고 지적했다.

● 스타트업 2%만이 “준비됐다”

정부는 법 시행과 함께 최소 1년 이상 규제 유예 기간을 적용할 계획이라 당장 현장의 혼란은 벌어지지 않을 것으로 보고 있다. 하지만 스타트업 업계에서는 제도 도입 취지와 별개로 ‘규제 리스크’만 늘어나는 것 아니냐는 우려가 나온다.

임정욱 스타트업얼라이언스 공동대표는 최근 국회에서 “산업 현장에서 체감하는 AI 기본법의 불확실성은 규제 유예만으로 해소되기 어렵다”며 “유예 기간에 제도가 실제 현장에서 작동 가능한지 점검하고 보완해야 할 것”이라고 말했다.

지난해 9월 스타트업얼라이언스가 AI 스타트업 101곳을 대상으로 진행한 설문조사에 따르면 단 2%의 기업만이 “AI 기본법 대응 계획을 수립했다”고 답했다. 이소은 영남대 로스쿨 교수는 “AI 기본법 시행과 동시에 기본법 개정을 위한 사회적 논의가 진행돼야 시대와 기술에 뒤처지지 않는 AI 기본 규범을 갖게 될 것”이라고 말했다.

전혜진 기자 sunrise@donga.com

Copyright Ⓒ 동아일보. All rights reserved. 무단 전재, 재배포 및 AI학습 이용 금지