EU, 세계 최초로 AI 규제안 냈다

위험도 따라 3단계 지침 마련

위반 땐 최대 403억원 과징금

의회 통과, 최소 수개월 전망

[경향신문]

유럽연합(EU)이 세계 최초로 인간의 안전이나 권리를 위협하는 인공지능(AI) 시스템에 대한 포괄적 규제안을 내놓았다. 해당 법안이 EU 의회를 통과해 효력을 갖게 되면 전 세계에서 성장하고 있는 AI 관련 시장에도 영향이 미칠 것으로 전망된다.

EU 집행위원회는 21일(현지시간) “기술이 윤리적으로 사용되도록 이끌고, EU를 신뢰할 수 있는 세계적 AI 중심지로 변모시키겠다”고 밝히며 AI 규제안을 공개했다. 이들은 AI 시스템을 각각 ‘전면 금지’ ‘고위험’ ‘낮은 위험’ 등 세 단계로 분류했다. EU의 지침을 위반하면 기업은 전 세계 매출 6% 또는 최대 3000만유로(약 403억원)의 고액을 과징금으로 내야 한다.

EU는 공공장소에서 수집된 시민의 생체정보를 정부가 분석하는 행위를 전면 금지했다. 모은 정보를 바탕으로 개인을 평가하는 ‘사회적 점수 매기기’도 허용되지 않는다. 다만 실종아동 수색, 테러 예방, 범죄자 추적을 목적으로 하는 생체정보 수집 및 분석은 허용된다. 채용 면접, 신용 평가, 법 집행 등의 분야에서 개인을 평가하기 위해 생체정보를 모으는 것은 고위험 단계로 지정됐다. 고위험 단계군은 해당 기술이 시장에 출시되기 전 정부로부터 엄격한 기술 평가를 받아야 한다. 딥페이크(AI 기반 얼굴 합성 변조 기술) 영상에는 ‘AI가 만들었다’는 표시를 의무화하는 내용도 규제안에 포함됐다.

이번 규제안이 통과되면 페이스북, 구글, 아마존, 마이크로소프트 등 AI 기술을 개발하는 기업들뿐 아니라 AI를 활용해 고객을 유치하는 보험회사와 금융회사 등에도 막대한 영향을 미칠 수 있다. 글로벌 컨설팅 업체 그랜드뷰리서치는 전 세계 AI 관련 시장이 2019년 390억달러(약 44조원) 규모였으며, 2027년까지 42% 성장할 것으로 전망했다. 규제안이 통과되려면 EU 의회의 동의를 얻어야 하기 때문에 최종 통과까지 최소 몇 개월에서 길면 몇 년이 걸릴 수도 있다.

규제 강도를 높이면 유럽에서 AI 기술이 성장하지 못할 것이라는 우려도 나온다. EU는 이러한 우려에 대해 “앞으로 연간 10억유로(약 1조원)를 디지털 기술 개발을 위해 투자하겠다”고 밝혔다.

유럽 외 다른 나라들도 AI 관련 시스템을 규제하려는 움직임을 보이고 있다. 미국 연방거래위원회는 지난 19일 ‘기업 AI 사용의 진실, 공정성, 평등을 위하여’라는 성명문을 통해 편견을 부추기는 AI 알고리즘 형성을 주의하고, AI가 모은 데이터를 어떻게 사용하는지 투명하게 밝힐 것을 기업들에 제안했다. 호주도 금융상품 상담 AI로부터 투자자 개인정보를 보호하는 법안을 추진하고 있다.

윤기은 기자 energyeun@kyunghyang.com

▶ [인터랙티브] 나의 탄소발자국은 얼마?
▶ 경향신문 바로가기
▶ 경향신문 구독신청하기

©경향신문(www.khan.co.kr), 무단전재 및 재배포 금지