EU, 세계 최초 'AI 규제법' 합의…어기면 '500억 벌금'

/AFPBBNews=뉴스1

유럽연합(EU)이 AI(인공지능) 사용에 대한 규제 법안에 잠정 합의했다. AI 개발에 따른 부작용 우려가 커지는 가운데 안면인식에서 챗GPT 같은 생성형 AI에 이르기까지 국가 차원에서 포괄적 AI 규제 법안이 나온 건 이번이 처음이다.

8일(현지시간) 블룸버그와 로이터 등 외신을 종합하면 EU 행정부 격인 집행위원회, EU 27개국을 대표하는 이사회, EU 입법기관인 유럽의회는 며칠 동안 규제안을 두고 37시간 넘는 마라톤 토론 끝에 이날 합의에 도달했다.

티에리 브르통 EU 내수시장 담당 집행위원은 기자회견에서 합의 사실을 발표하면서 "유럽은 AI 사용에 명확한 규정을 만든 최초의 대륙이 될 것"이라며 "혁신의 촉진과 시민의 권리 보호 사이에서 최대한 균형을 맞췄다"고 밝혔다.

AI에 대해 상대적으로 강한 규제가 필요하다고 주장해온 유럽은 규제안을 마련하면서 AI가 시민의 권리와 민주주의에 위협이 되지 않도록 하는 데 초점을 맞췄다.

EU는 우선 토론의 쟁점이었던 안면인식 기술의 경우 활용 분야를 일부 법 집행 목적을 제외하곤 엄격하게 금지하기로 했다. 예컨대 정부는 특정 범죄나 테러 공격 같은 실체가 있는 위험을 예방하거나 중대한 범죄 용의자를 수색하기 위한 목적으로만 공공장소에서 실시간 안면인식 기술을 사용할 수 있다.

EU는 또 AI로 개인의 사회적 신용 점수를 매기는 이른바 소셜스코어링을 금지하고, 인간 자유의지를 넘어 행동을 조작하거나 사회적 취약층을 착취하는 AI 시스템도 금지하기로 했다.

아울러 AI 기반 모델이 시장에 출시되기 전 투명성 의무를 준수하도록 했다. 여기엔 기술문서 마련, EU 저작권법 준수, AI 학습에 이용된 콘텐츠 명시 등이 포함된다. 시스템 위험도가 큰 AI 기반 모델의 경우 기업에 모델 평가 수행, 시스템 리스크 완화 노력, 심각한 사건에 대한 EU 집행위원회 보고, 사이버안보 보장, 에너지 효율성 보고 등의 의무를 부과하기로 했다.

만약 기업이 의무를 준수하지 않을 땐 최대 3500만유로(약 500억원) 혹은 전 세계 매출의 7%의 벌금을 부과받는다. 앞으로 추가 논의를 위해 세부 사항을 최종 결정할 예정이며 최종 법안에서 내용이 수정될 수 있다. 이르면 오는 2026년 전면 적용이 예상된다.

블룸버그는 EU의 규제안을 두고 "미국이 AI 규제를 위해 의미 있는 조치를 미루는 상황에서 AI 규제 분위기를 조성하는 중요한 발걸음"이라고 의미를 짚었다. 또 합의에 37시간의 토론이 필요했다는 점 자체로 현재 AI 규제가 얼마나 논쟁적인 이슈인지를 보여준다고 지적했다. 프랑스와 독일은 과도한 규제가 유럽에서의 AI 기술 발전을 저해할 위험을 우려한 것으로 전해진다.

윤세미 기자 spring3@mt.co.kr

ⓒ 머니투데이 & mt.co.kr, 무단 전재 및 재배포 금지