AI 기본법 국회 본회의 통과..."고영향 AI는 어떻게 규정하나"

부작용 우려와 해결 과제도 산적

사진=뉴스1

[파이낸셜뉴스] 인공지능(AI) 기본법 제정안이 26일 국회 본회의를 통과하자 업계는 안도와 함께 '고영향 AI'에 대한 추가 논의가 필요하다는 입장을 보이고 있다. 당초 연내 처리가 불투명했던 이 법안이 통과되면서 한국은 유럽연합(EU)에 이어 두 번째로 AI 관련 법안을 제정한 국가가 됐다.

국가 AI지원 방안 등 기틀 마련

AI 기본법은 정부가 AI 산업의 건전한 발전을 지원할 근거와 기준, 규제 등을 명시한 법안이다. 인공지능·고영향 인공지능·생성형 인공지능·인공지능윤리·인공지능사업자 등에 대한 정의를 담았다. 특히 '고영향 AI'를 '사람의 생명·신체의 안전 및 기본권에 중대한 영향을 미치거나 위험을 초래할 우려가 있는 AI 시스템'으로 규정했다.

아울러 기본법에는 △인공지능 기본계획 수립·시행 △대통령 소속의 국가인공지능위원회 설치 △과학기술정보통신부장관의 인공지능정책센터 지정 △인공지능안전연구소 운영 △인공지능기술 관련 표준 제정 사업 추진 △전문인력 양성 인공지능 윤리원칙 제정·공포·실천 방안 수립 및 홍보·교육 △인공지능 제품·서비스 제공 시 이용자에게 사전 고지 △인공지능 사업자의 안전성·신뢰성 확보 조치 시행 등에 대한 법적 근거도 담았다.

업계는 이번 기본법 통과가 규제 불확실성 해소와 산업 진흥의 청신호로 받아들이고 있다. 실제 지난 9월 AI 기본법 제정안이 상임위인 국회 과학기술방송통신위원회를 통과하자 관련 업종 주가가 상승하기도 했다. 한 업계 관계자는" AI 산업 발전의 방향성과 규제 가이드라인이 시급했다"며 "추후 명확한 로드맵과 세부사항들이 잘 조율돼야할 것"이라고 말했다.

"'고영향 AI' 범위 어떻게 되나" 과제로

다만 기본법 시행 이후에도 해결해야 할 숙제들이 산적한 상황이다. 법안 시행을 앞두고 해결해야 할 쟁점으로 가장 먼저 '고영향 AI'의 판단 기준이 꼽힌다. 고영향 AI는 시행령을 통해 세부 내용이 정해지게 된다. 기본권에 대한 영향 정도를 어떤 방식으로 평가할 것인지, 기본법 제정 이후 고영향 AI의 범위를 넓힐 것인지에 대한 사회적 합의가 필요하다는 지적이 나온다.

사업자가 고영향 AI를 이용자에게 고지하지 않거나 정부 시정명령을 따르지 않을 경우 AI 기본법에 따라 3000만원 이하의 과태료를 받는다. 생성형 인공지능 사업자 역시 이용자에게 고지하지 않으면 3000만원 이하의 과태료를 내야 한다.

또한 AI 기본법에 단순 민원이나 신고만 들어와도 정부의 기업 현장 조사가 가능하다는 조항이 추가되면서, 국내 AI 사업자가 해외로 옮기거나 영업을 안할 수도 있다는 논란이 제기되기도 했다. 이와 관련해 과학기술정보통신부는 사실조사 조항은 AI기본법에만 규정된 것이 아니고 현행법 상 행정조사의 기본법인 '행정조사기본법' 제7조 규정을 반영한 일반적인 내용이며 "행정조사기본법 규정에 따라 사실조사는 조사목적을 달성하는데 필요한 최소한의 범위 안에서 실시할 예정"이라고 설명했다.

한 AI스타트업 관계자는 "AI 서비스를 속도감 있게 진행해야 할 사업자가 향후 정부 판단에 의해 '고영향 AI' 범주에 들어가기만 해도 향후 사업, 투자 유치 등의 측면에서 영향을 받을 수밖에 없다"면서 "AI의 파급력이 크기 때문에 부작용은 막아야 하지만 이를 시행령에서 명확히 규정하고 특히 중소AI 업체들이 과도한 규제에 발목잡히지 않도록 신중히 틀을 잡아야 한다"고 말했다.

AI 산업 진흥 로드맵을 제시할 '국가AI 위원회'나 AI 기본 인프라를 위한 '국가 AI 컴퓨팅센터'의 예산이 충분히 확보가 되지 않았다는 점도 당면과제로 꼽힌다. 국가AI위원회는 예산안 제출 이후 출범하면서 예산이 반영되지 않았고, 컴퓨팅센터 관련 예산의 경우 약 3217억원의 예산 증액이 무산됐다. 지난 23일 유상임 과기부 장관은 AI 예산을 내년 추경의 최우선 순위로 추진키로 하고 AI 기본법 시행령 제정 과정에선 규제를 최소화 하며 '산업 진흥'에 무게를 두겠다고 밝힌 바 있다.

wongood@fnnews.com 주원규 기자

Copyrightⓒ 파이낸셜뉴스. 무단전재 및 재배포 금지.