사람보다 더 뛰어난 AGI 시대…AI기본법 ‘고영향 AI’ 범주는?

고영향 AI에 사람보다 더 뛰어난 AGI 포함되나
"포함될 가능성 높아…인간에 미치는 영향 중심으로 봐야"
후속 입법 필요한 AI 기본법…'고영향 AI' 범주 향후 입법 과제

오픈AI 달리로 생성한 이미지

인공지능(AI) 산업을 육성하고 부작용을 규제하는 AI 기본법이 26일 국회 본회의를 통과했다. AI 업계에선 산업 진흥에 초점을 맞춘 AI 기본법 통과에 환영하면서도, 규제 대상인 고영향 AI의 범주가 모호하다고 입을 모은다.

AI기본법은 사람의 생명, 안전, 기본권에 중대한 영향을 미칠 수 있는 AI 기술을 ‘고영향 AI’로 정의했다. 고영향 AI의 기준은 △채용, 대출 심사 등 개인의 권리 및 의무 관계에 중대한 영향을 미치는 판단 또는 평가 △공공서비스 제공에 필요한 자격 확인 및 결정 또는 비용징수 등 국가, 지방자치단체, 공공기관의 의사결정 △교통수단, 교통시설, 교통체계의 주요한 작동 및 운영 △의료기기 및 디지털 의료기기의 개발 및 이용 등 11개다.

고영향 AI 및 생성형 AI를 활용하는 사업자는 AI 사용 여부를 이용자에게 사전에 알려야 한다. 또한, AI로 이미지나 동영상 등을 생성한다면, 해당 결과물이 AI가 생성했다는 워터마크를 표시해야 한다. 국내 기업뿐 아니라 글로벌 빅테크도 이를 이행해야 하며, 위반시 3000만 원 이하의 과태료가 부과된다.

AI 업계 관계자는 “AI 산업 발전을 위해 투자를 한다는 내용이라 그 부분에 대해 업계에선 굉장히 긍정적으로 보고 있다”면서도 “시행 시기는 1년 뒤라, (고영향 AI에 대한 기준이) 구체적으로 어떻게 될지는 잘 모르겠다. 그동안 AI의 윤리나 책임이 필요하다는 인식들이 반영된 것 같다”고 말했다.

또 다른 쟁점은 고영향 AI에 ‘인공일반지능(AGI)’도 포함되는지다. AGI는 인간과 유사한 수준의 전반적인 지능을 가진 인공지능을 의미한다. 특정 분야에 국한되지 않고 다양한 영역에서 스스로 추론할 수 있다. AI가 제한적인 학습 데이터를 기반으로 특정 작업에 집중한다면, AGI는 자율적 학습 능력을 통해 전반적인 사고와 문제 해결이 가능하다. 이 같은 범용성으로 오픈AI나 구글의 자회사 딥마인드, 메타 등 글로벌 빅테크는 AGI 실현을 최종 목표로 두고 AI 고도화에 나서고 있다.

전문가들은 AI 기본법상 ‘고영향AI’에 AGI가 해당할 가능성이 크다고 본다. AGI는 의료·금융·교육 등 다양한 분야에서 작업을 수행할 수 있고, 자율적 사고 능력을 기반으로 해 의사결정에서의 책임 소재 규명도 어렵기 때문이다.

한국인공지능법학회장인 최경진 가천대 법학과 교수는 ‘AGI가 고영향AI에 속할 가능성이 크냐’는 질문에 “가능성이 크다”고 답했다. 이어 최 교수는 “AGI는 긍정적인 면하고 부정적인 면이 모두 있다. 그런데 AI 기본법상 고영향AI를 분류할 때 그 영향이 긍정적인지 부정적인지를 따지지 않는다”며 “추후 정부가 법적 해석의 여지를 좁히지 않으면 고영향AI로 분류될 가능성이 매우 크다”고 했다.

한편 AI의 범용성 정도보다는, AI가 인간에 미치는 영향을 중점적으로 봐야 한다는 시각도 있다. 이재성 중앙대 AI 학과 교수는 “AI든 AGI든 인간의 생명이나 안전 등에 직접 연관된 것들이 고영향 AI”라며 “AGI는 명확하게 정의 내릴 수 없다. AGI 여부와 상관없이 자율적인 판단을 하게 됐을 때 여러 문제가 발생하는 AI 시스템이 있다”고 했다.

AI 관련 규제를 강화를 요구하고 있는 시민 사회에서도 고영향 AI 범위가 모호하다고 지적한다. 업계와는 반대로 AI기본법상 고영향 AI 범위가 너무 좁다는 이유에서다. 참여연대는 27일 입장문을 내고 “AI기본법에 금지해야 할 인공지능에 대한 규정이 없고, 고영향 인공지능 사업자의 범위는 여전히 협소하며, 고영향 인공지능 사업자의 책무 위반에 대한 처벌 규정도 미흡하다”고 지적했다.

고영향 AI의 범주는 향후 AI 기본법에 대한 주요 후속 입법 과제가 될 전망이다. 최경진 가천대 교수는 “고영향 AI 정의 해석을 좁히는 식의 (법제정)을 계속 요구하고 있는데 이번 법제정 땐 이 부분이 반영이 안 됐다”면서 “정부도 이에 대한 문제는 인지하고 있고 해석을 좁히는 식으로 해결하려고 할 것”이라고 말했다.

[이투데이/이은주 기자 (letswin@etoday.co.kr)]

▶프리미엄 경제신문 이투데이 ▶비즈엔터

이투데이(www.etoday.co.kr), 무단전재 및 수집, 재배포금지