유럽, 세계 첫 AI 규제법 6월 발효...의료 교통 교육 고강도 예고

EU 회원국 전격 승인
구글 MS 메타 등 겨냥한듯
생성형 AI에 대한 우려 반영
전 세계적 규제 기준 될 전망
공공장소 생체인식 감시 제한
위반시 매출액 최대 6%부과

Eu

유럽연합(EU)은 인공지능(AI) 규제법이 다음 달부터 발효될 예정이라고 22일 밝혔다. 법안은 지난해 12월에 합의된 것으로 EU 국가들이 이날 승인하면서 이루어졌다. 이는 비즈니스와 일상생활에서 사용되는 기술에 대한 전 세계적 기준이 될 전망이다.

로이터에 따르면, 유럽연합의 AI 법안은 미국의 자율적 준수 접근 방식보다 더 포괄적이며, 사회 안정과 국가 통제를 유지하려는 중국의 접근 방식과도 차별된다. EU 국가들의 이번 투표는 2021년 유럽연합 집행위원회가 초안을 작성한 AI 법안이 지난 3월 EU 의원들의 지지를 받은 지 두 달 만에 이루어졌다.

최근 몇 달 동안 마이크로소프트가 지원하는 오픈AI의 챗GPT와 구글의 챗봇 제미나이 같은 생성형 AI 시스템의 인기로 AI가 허위 정보, 가짜 뉴스 및 저작권 있는 자료에 기여할 수 있다는 우려가 전 세계적으로 높아졌다는 것이 EU의 설명이다.

마티유 미셸 벨기에 디지털 장관은 성명에서 “이 획기적인 법은 전 세계적인 기술적 도전에 대응하면서도 우리 사회와 경제에 기회를 제공한다”고 말했다. 그는 “AI 법안으로 유럽은 신뢰, 투명성, 책임성을 강조하면서도 빠르게 변화하는 기술이 발전하고 유럽의 혁신을 촉진할 수 있도록 하고 있다”고 덧붙였다.

AI 법안은 고위험 AI 시스템에 대해 엄격한 투명성 의무를 부과한다. 고위험 AI 시스템이란 인공지능(AI) 기술이 사람들의 안전, 건강, 권리 및 자유에 큰 영향을 미칠 수 있는 시스템을 말한다. 이러한 시스템은 오류가 발생할 경우 심각한 결과를 초래할 수 있기 때문에 엄격한 규제와 투명성 요구사항이 적용된다는 설명이다. EU의 AI 법안에서 고위험 AI 시스템의 예시는 다음과 같다.

1. 의료 장비 및 치료: 환자의 건강에 직접 영향을 미치는 의료 기기나 치료 시스템.

2. 교통 관리: 자율주행 차량, 항공 교통 관제 시스템 등 교통과 관련된 AI 안전 기술.

3. 교육 및 취업: 학생 평가 시스템, 채용 과정에서 사용되는 AI 등 개인의 교육 및 직업 기회에 영향을 미치는 시스템.

4. 법 집행 및 사법: 범죄 예측, 사법 판결 지원 시스템 등 법적 판단에 영향을 미치는 기술.

5. 생체인식 및 감시: 얼굴 인식, 음성 인식 등 사람들의 프라이버시와 관련된 감시 시스템.

6. 금융 서비스: 대출 승인, 신용 평가 등 금융 결정에 중요한 영향을 미치는 시스템.

이러한 고위험 AI 시스템은 높은 수준의 투명성, 책임성, 안전성을 보장해야 하며, 사용자에게 시스템의 작동 방식과 한계를 명확히 알려야 한다. 유럽연합의 AI 법안은 이러한 시스템에 대해 특별히 엄격한 규제를 통해 안전성과 신뢰성을 확보하고자 한다.

유럽연합(EU)의 AI 법안을 준수하지 않을 경우, 기업과 기관은 상당한 제재와 벌금을 받을 수 있다. 주요 제재 사항은 다음과 같다.

1. 벌금: 고위험 AI 시스템의 규제를 위반할 경우, 기업은 매출의 최대 6%에 해당하는 벌금을 부과받을 수 있다. 이는 GDPR(일반 데이터 보호 규정) 위반 시 부과되는 벌금과 유사한 수준이다.

2. 사업 제한: 심각한 위반의 경우, 해당 AI 시스템의 사용이 금지되거나 제한될 수 있다. 이는 공공의 안전과 개인의 권리를 보호하기 위한 조치로, 특정 AI 시스템이 위험을 초래할 경우 이를 즉각 중단시키기 위함이다.

3. 책임 부과: 법규 위반으로 인해 발생한 피해에 대해서는 기업이 책임을 지게 되며, 손해배상 청구가 이루어질 수 있다. 이는 피해자들이 법적 보호를 받을 수 있도록 하는 장치이다.

4. 감독 및 감사: EU는 규제 준수를 감독하기 위해 정기적인 감사와 검토를 실시할 것이다. 이 과정에서 규제 위반이 발견될 경우 즉각적인 시정 조치가 요구된다.

이러한 제재는 기업들이 AI 법안을 철저히 준수하도록 유도하고, AI 기술이 안전하고 책임 있게 사용되도록 보장하기 위해 마련된 것이다. AI 기술이 빠르게 발전하고 있는 만큼, 법규 위반에 대한 엄격한 제재는 기술 남용을 방지하고 사회적 신뢰를 구축하는 데 중요한 역할을 한다고 EU는 설명했다.

법률 회사 쿨리의 패트릭 반 에이크는 로이터를 통하 “이 법안은 글로벌한 영향을 미칠 것이다. EU 외부 기업들도 EU 고객 데이터를 AI 플랫폼에서 사용할 경우 이를 준수해야 한다”며 “다른 국가와 지역들도 AI 법안을 청사진으로 사용할 가능성이 크다. 이는 EU의 개인정보 보호 규정(GDPR)과 마찬가지”라고 말했다.

새 법안은 2026년에 적용되지만, 사회 점수제, 예측 경찰 활동 및 인터넷이나 CCTV 영상에서의 무차별적 얼굴 이미지 수집에 대한 인공지능 사용 금지는 새로운 규제가 발효된 지 6개월 후에 시행될 것이다.

이번 발표는 서울 AI정상회의 직후에 나와 주목된다.

[ⓒ 매일경제 & mk.co.kr, 무단 전재, 재배포 및 AI학습 이용 금지]