EU, AI 규제법 승인…"의료·선거 등 활용땐 꼭 사람이 감독"

오픈AI의 챗GPT, 구글의 제미나이 등 생성형 인공지능(AI)의 부작용에 대한 우려가 높아지는 가운데 21일(현지시간) 유럽연합(EU)이 AI 규제법의 시행을 최종 확정했다. 선거·사법·금융·의료·교육 등 각 분야에서 AI 기술 허용 범위와 규제 대상 등을 규정한 세계 최초의 법으로, 미국·일본 등 관련 입법을 서두르는 세계 각국에 가이드라인 역할을 할 것이란 관측이 나온다.

벨기에 브뤼셀에 있는 EU위원회 본부. 로이터=연합뉴스

━

AI 위험도 4단계로 나누고 차등 규제

이날 EU 교통·통신·에너지이사회 27개 회원국은 벨기에 브뤼셀에서 열린 회의에서 AI법을 최종 승인했다. 다음달 발효되는 EU의 AI법은 발효 6개월 뒤부터 금지 대상 AI 규정을 우선 시행하고, 1년 뒤엔 범용 AI(AGI·사람과 유사한 수준이나 사람 이상의 지능을 갖춘 AI)에 대한 규제에 들어간다. 전면 시행은 2026년 중반부터다. 다만 챗GPT와 제미나이, 마이크로소프트(MS)의 코파일럿 등 이미 출시된 생성형 AI에는 3년의 ‘전환 기간’을 주고, 2027년부터 규제를 적용한다.

마티유 미셸 벨기에 디지털화 장관은 성명을 통해 “AI법의 채택은 EU의 중요한 이정표”라며 “이 법을 통해 유럽은 신기술을 다룰 때 신뢰·투명성·책임을 강조하는 동시에 빠르게 변화하는 기술이 더욱 발전하고 유럽의 혁신을 촉진할 수 있도록 보장할 것”이라고 말했다.

이 법은 AI 활용 위험도를 ▶수용 불가능한 위험 ▶고위험 ▶제한된 위험 ▶최소 위험 등 네 단계로 차등 규제한다. 경찰 등 법 집행기관이 실시간 원격 생체인식 시스템을 사용하는 행위는 '수용 불가능한 위험' 등급에 해당해 원칙적으로는 규제 대상이다. 다만 테러나 납치·강간 등 심각하고 긴급한 범죄는 예외적으로 허용된다.

김경진 기자

AI를 활용한 개인의 특성·행동과 관련된 데이터로 점수를 매기는 '소셜 스코어링'(social scoring), 인터넷이나 폐쇄회로(CC)TV로 얼굴 이미지를 무작위로 수집해 데이터베이스를 구축하는 행위 등도 EU 역내에서 활용이 원천적으로 금지된다.

의료, 교육, 시험 채점, 채용, 선거, 핵심 인프라, 이민, 자율주행에 사용되는 AI는 '고위험 등급'으로 분류됐다. 이 분야에서 AI기술을 활용하려면 반드시 사람이 감독해야 하는 동시에 위험 관리 시스템을 구축해야 한다.

'제한된 위험'과 '최소 위험'의 경우 개발 기업에 ‘투명성 의무’를 부여했다. EU 저작권법을 준수해야 하며, AI 학습에 투입된 데이터에 대한 출처를 명시해야 한다. 아울러 딥페이크 기술 등을 활용해 생성형 AI가 산출해낸 영상·이미지·소리에 대해서는 AI가 만든 것임을 밝혀야 한다. 만약 시스템적으로 위험이 있다고 분류된 범용 AI에 대해선 위험 평가·완화, 사고 보고 등의 의무를 추가로 부여한다.

구글의 생성형 AI 제미나이 로고. 로이터=연합뉴스

━

위반시 글로벌 매출 7% 벌금…빅테크 긴장

EU 집행위는 AI법을 위반하는 기업에게 최대 3500만 유로(약 518억원) 또는 글로벌 매출의 7%에 해당하는 금액 중 큰 액수를 벌금으로 부과할 수 있다. EU는 집행위 연결총국 산하에 ‘AI 사무소’를 신설해 AI법 집행을 총괄하도록 한다는 계획이다,

구글과 메타, MS 등 미국 빅테크 기업은 EU의 AI법 시행에 촉각을 곤두세우고 있다. 이 법이 AI에 대한 세계 최초의 포괄적 규제란 점에서 다른 나라의 AI 규제 모델 구축에 가이드라인으로 작용하는 등 사실상 국제 표준이 될 수 있어서다.

EU의 AI법이 생성형 AI에 강세를 보이는 미국 빅테크 기업를 정조준했다는 분석도 나온다. 실제로 2021년 제안된 이 법은, 이듬해 오픈AI가 챗GPT를 출시하면서 생성형 AI 확산에 대한 부작용과 사회적 우려를 감안해 내용이 대폭 수정됐다.

오픈AI가 개발한 챗GP의 앱 로고. AFP=연합뉴스 A photo taken on February 26, 2024 shows the logo of the ChatGPT application developed by US artificial intelligence research organization OpenAI on a laptop screen (R) and the the logo of the Artificial Intelligence chat application on a smartphone screen in Frankfurt am Main, western Germany. (Photo by Kirill KUDRYAVTSEV / AFP) 〈저작권자(c) 연합뉴스, 무단 전재-재배포, AI 학습 및 활용 금지〉

법률회사 크립스의 매튜 홀먼 파트너 변호사는 미국 CNBC 방송과의 인터뷰에서 “대중을 상대로 하는 생성형 AI 시스템에 많은 자금을 투입한 미국의 빅테크 기업 입장에선 엄청나게 부담스러울 것”이라고 지적했다. 법률회사 콜리의 패트릭 반 에케 변호사는 “EU AI법의 영향력은 결국 유럽의 블록을 넘어설 것”이라며 “개인정보 보호에 대해 국제 표준이 된 EU의 개인정보보호법(GDPR)과 마찬가지로, AI 규제에 대한 국제적인 청사진 역할을 하게 될 가능성이 크다”고 내다봤다.

박형수 기자 hspark97@joongang.co.kr

▶ 중앙일보 / '페이스북' 친구추가

▶ 넌 뉴스를 찾아봐? 난 뉴스가 찾아와!

ⓒ중앙일보(https://www.joongang.co.kr), 무단 전재 및 재배포 금지