이해민 'AI 신호등법' 발의...고위험 대신 '고영향' 잘못하면 '과태료'

[디지털데일리 이건한 기자] 조국혁신당 이해민 의원이 인공지능(AI) 기술의 건전한 발전과 안전한 활용에 초점을 둔 '인공지능산업 진흥 및 인공지능 이용 등에 관한 법률(이하 AI 신호등법)'을 12일 대표발의했다. 사실상 'AI 기본법'의 성격이지만 이 의원은 "현재 국내 AI 산업은 신호등 없는 강남역 사거리를 질주하고 있는 상황과 같다"며 "올바른 AI 혁신과 이용을 위한 신호등 역할을 기대하며 'AI 신호등법'이라는 이름을 붙였다"고 설명했다.

AI 신호등법은 앞서 제22대 국회에 발의된 10여건의 AI 기본법보다 구체적인 AI 용어 정의, 인간 중심 AI 사회 구현을 목표로 기술 발전과 윤리적 가치의 조화를 강조하는 것이 특징이다. 특히 산업 진흥 중심의 타 AI 법안에서 찾아보기 힘든 벌칙조항까지 포함된 점은 삼색 신호등의 '적색(금지)', 황색(경고)', '청색(허용)' 구성처럼 AI 업계가 참고할 수 있는 구체적인 지시 내용은 물론, 진흥과 규제의 균형이 잘 어우러졌단 평가다.

이 가운데 이 법안의 가장 두드러진 특징은 AI 정의에 '고위험 AI' 대신 '고영향 AI'란 표현을 사용한 점과 AI 시스템으로부터 직간접 적인 영향을 받는 '영향받는 자' 개념을 새로 도입한 것이다.

고위험 AI는 세계 최초로 포괄적 AI 기본법을 만든 유럽연합(EU)에서 처음 규정한 것으로, 개발 시 인간에게 중대한 위험이나 영향을 초래할 수 있는 AI 시스템을 말한다. AI 기업이 이와 같은 AI 개발을 회피하거나 지양하도록 함으로써 안전한 AI 개발을 유도하는 것이 목적이다. 그러나 그 범주가 모호해 AI 업계에서는 그동안 금지된 AI나 고위험 AI처럼 기술 개발과 비즈니스에 큰 영향을 줄 수 있는 정의에 대한 구체화를 지속적으로 요구해온 바 있다.

이런 측면에서 이 의원의 AI 신호등법은 AI를 단순한 기술이나 위험 요소가 아닌 사회적 영향력을 지닌 시스템으로 정의, 고위험 대신 '고영향 AI'를 '사람의 생명, 신체, 건강과 안전, 기본권의 보호, 국가안보 및 공공 복리 등에 중대하거나 회복하기 어려운 영향을 미칠 우려가 있는 경우'로 보다 구체적이면서 포괄적인 의미를 담아 정의했다.

해당 내용을 살펴보면 ▲범죄예방, 수사, 기소, 형 집행 업무에 사용되는 AI ▲어린이 제품에 사용되는 AI ▲의료기기에 사용되는 AI ▲핵물질과 원자력 시설 관리와 운영에 사용되는 AI ▲법원의 재판, 심판 등 업무에 사용되는 인공지능 등 17개로 세분화되어 있으며 일부는 '대통령령으로 정하는 제품, 또는 기계'로 지정해 유연함을 더했다.

또한 '영향받는 자' 개념도 타 AI 기본법에서 찾아보기 힘든 정의다. 이는 AI 기술이 개발자가 직접적 이용자를 넘어 사회 전반에 미치는 파급효과에 주목하고 있다. 구체적인 정의는 'AI 기술 또는 제품이나 서비스로부터 직간접적으로 자신의 생명, 신체의 안전 및 기본권에 중대한 영향을 받는 자'다. 앞서 정의된 고영향 AI로부터 AI 사용자를 보호하기 위한 시책을 규정할 때 영향받는 자 개념을 활용함으로써 보호 대상이 한층 명확해질 수 있다. 일례로 제9조 국가인공지능위원회 구성안에는 '영향받는 자를 대표할 수 있는 전문가'가 포함되어 있다.

또한 벌칙 조항으로는 자사의 AI가 고영향 AI에서 규정하는 중대한 위험이 있다고 인지한 경우 기업이 즉시 서비스 혹은 제품 판매 중단 또는 회수 조치를 해야 하며, 이를 위반할 경우 5000만원 이하의 과태료를 부과한다고 명시됐다. 이 같은 과태료 조항은 그 규모와 별개로 AI 기업에 '범법'에 대한 부담을 지움으로써, 법의 테두리 안에서 보다 사용자 중심의 AI를 개발하도록 유도하는 효과를 한층 강화할 수 있다.

이밖에 AI 신호등법은 AI 산업 발전을 위한 규제 특례와 지원책도 함께 담았다. 신기술 검증을 위한 실증특례와 임시허가 제도를 통해 새로운 AI 기술과 서비스의 신속한 시장 진입을 지원할 예정이다. 이는 '중소기업 등의 AI 도입·활용을 위한 자금·교육·컨설팅 등 지원(제18조)', 'AI 기술의 타 산업과의 융합 촉진 및 다양한 사회적 활용을 위한 시책 수립(제20조)' 등이 눈에 띈다. AI 기술의 발전과 그 사회적 영향력 관리를 동시에 추구하겠다는 법안의 기본 철학이 반영되는 대목이기도 하다.

이 의원은 "AI는 이제 단순한 기술이 아닌 우리 사회를 근본적으로 변화시키는 동력"이라며 "이번 법안은 AI가 가진 혁신의 잠재력을 극대화하면서도, 그 과정에서 소외될 수 있는 사회 구성원들의 권익을 보호하는 새로운 균형점을 제시하고자 했다"고 강조했다.

- Copyright ⓒ 디지털데일리. 무단전재 및 재배포 금지 -