고영향 AI 판단 기준 모호…AI 기본법, 후속 입법 뒤따를 듯

26일 서울 여의도 국회에서 열린 과학기술정보방송통신위원회 전체회의에서 최민희 위원장이 인공지능(AI) 기본법 제정안과 이동통신단말장치 유통구조 개선에 관한 법률(단통법) 폐지안 등을 의결하며 의사봉을 두드리고 있다. /사진=뉴시스

"오늘 통과되는 이 법안이 100% 완전하지 않은 것은 알고 있지만, 지금은 대한민국 AI(인공지능)의 육성과 지원을 위해 그리고 경제적 혁신을 위해 기본법안을 통과시켜줘야 할 시점이라고 판단한다."(최민희 국회 과학기술정보방송통신위원회(과방위) 위원장)

국회 과방위는 26일 서울 영등포구 여의도 국회에서 전체회의를 열고 '인공지능 발전과 신뢰 기반 조성 등에 관한 기본법안'을 통과시켰다. 이후 국회 법제사법위원회(법사위)와 본회의를 통과해 제정되면 한국은 EU(유럽연합)·미국에 이어 3번째로 AI법을 만든 국가가 된다.

법안에는 AI 사업자의 투명성·안전성·의무 등 신뢰 기반 조성을 위한 기본 사항이 규정돼 있다.

AI 기본법의 핵심은 '고영향 AI'를 규정했다는 부분이다. 고영향 AI는 사람의 생명·신체의 안전 등에 위험을 미칠 수 있는 AI 시스템을 뜻한다. 사업자는 이용자에게 고영향 AI 활용 사실을 사전에 고지해야 하며, 검·인증 등을 받도록 노력해야 하고, 이용자 보호 방안 등을 비롯해 안전성·신뢰성 확보 조치도 해야 한다.

이해민 조국혁신당 의원은 기존에 사용되던 '고위험 AI'라는 용어를 '고영향 AI'로 대체했다. 이는 AI에 대한 지나친 우려를 없애고, AI에 '영향'을 받는 모든 사용자를 보호하자는 취지다.

관련해 인공지능 영향평가도 진행된다. AI 서비스가 인간 기본권에 미치는 사회·경제·환경 등 영향을 고려하도록 한 조치다.

딥페이크 범죄 확산에 따라 이를 방지하기 위해 AI 생성물에는 '워터마크(식별표시)'를 의무화하는 내용도 담겼다.

이같은 의무 사항은 해외사업자에게도 적용된다. AI 기본법은 해외 사업자에게 국내 대리인을 지정해 의무 조치 이행에 필요한 지원을 할 수 있도록 명시했다.

AI 사업자가 의무 사항을 위반하면 과학기술정보통신부(과기정통부) 장관은 사실조사 및 시정명령을 할 수 있다. 시정명령을 이행하지 않으면 3000만원 이하의 과태료를 부과할 수 있다.

IT 업계는 학수고대하던 AI 기본법 통과가 가까워진 것에 환영하면서도 고영향 AI 판단 기준 부재에 대한 아쉬움을 표했다.

IT업계 관계자는 "법에서는 에너지법·먹는물관리법·의료기기법·원자력법·생체인식정보 등 법안 등을 나열하며 해당 영역에 활용되는 AI 시스템을 '고영향 AI'라고 규정하고 있는데, 이는 AI와 관련한 전문적인 기준이 부재된 규정"이라며 "AI 모델 크기나 유형, 활용 정도 등이 구체적으로 명시되지 않으면 규제 대상이 모호해져 실효성을 담보하기 어려워질 것"이라고 지적했다.

시민단체는 금지 AI가 포함되지 않은 점에 반발했다. 이들은 이날 국회 앞에서 'AI 기본법 졸속 처리 규탄 기자회견'을 열고 △비윤리적 AI 시스템 활용과 금지 △고위험 AI의 규정 및 합당한 책임 부과 △범용 AI 모델의 위험성 테스트 의무화 △AI 시스템을 규율하는 독립적인 감독 기구 설립 등을 촉구했다.

이같은 지적에 최민희 과방위 위원장은 "시민사회 등에서 걱정하는 AI 고영향 및 고위험 부분에 대해서는 저희가 기본법안을 통과시키면 상임위별로 인공지능 관련 법안을 토론하고 의결하려고 기다리고 있다"며 "후속 법안들이 잇따를 것 같다"고 설명했다.

배한님 기자 bhn25@mt.co.kr 박상곤 기자 gonee@mt.co.kr

ⓒ 머니투데이 & mt.co.kr, 무단 전재 및 재배포 금지