AI가 내 평판 긁어 ‘점수’ 매긴다면… ‘마이너리티 리포트’ 법 생겼다

EU, 세계 첫 AI 규제법 합의

인간 행동 조종·수치화 금지

게티이미지뱅크

☞한겨레 뉴스레터 H:730 구독하기. 검색창에 ‘한겨레 h730’을 쳐보세요.

유럽연합 집행위원회가 9일(현지시각) 유럽의회와 세계 최초로 만들어지는 인공지능(AI)의 개발 범위 등을 규제하는 법률인 ‘인공지능법안’(AI Act)에 대해 합의하고 일부 내용을 공개했다. 유럽연합은 시민들의 일상에 이미 큰 변화를 가져온 인공지능 규제법을 세계에서 가장 먼저 만들어 관련된 잠재적 위험성을 최소화하고, 자신들이 경쟁을 주도할 수 있는 발판을 마련했다는 입장이다.

우르줄라 폰데어라이엔 집행위원장은 이날 집행위원회와 유럽연합이 인공지능법안의 구체 내용에 ‘정치적 합의’를 이뤄내자 성명을 내어 “인공지능법이 앞으로 인간과 기업의 안전과 기본권을 보장하고 신뢰할 수 있는 인공지능의 개발과 이용 등을 지원하게 될 것”이라고 환영했다.

이날 공개된 합의안을 보면, 유럽연합은 인공지능 시스템을 위험도에 따라 크게 4등급으로 나눠 각각의 경우 허용 또는 금지의 대상과 범위를 정했다. 먼저, ‘허용 불가능한 위험’ 등급에는 개발·사용을 막아야 할 만큼 위험성이 큰 인공지능 시스템들이 포함됐다. 인간의 자율 행동을 조종하거나, 행정 업무나 기업 활동에서 인공지능을 이용해 개인을 수치화하는 시스템 등이 이에 속한다. 즉, 인간의 잠재의식에 파고들어 특정 행동을 유도하거나, 온라인 활동에 대한 정보 수집을 통해 개인에 대한 평판을 점수화하거나, 아동·장애인 등 약자들을 이용하는 인공지능은 애초 개발과 시장 출시가 금지된다. 다만 인공지능 기술을 통해 원격으로 실시간 생체 정보를 확인하는 문제(안면인식 등)는 ‘예외적 허용’으로 결론 났다. 유럽의회가 올해 초 전면 금지를 시도했지만, 테러 위협 등 국가 안보나 인신매매·살인 등 강력 범죄 수사 때엔 예외를 인정해달라는 회원국들의 요구가 반영됐다.

두번째 ‘고위험’ 범주에는 전기·수도 등 국가 인프라 시설 운영과 관리에 쓰이는 인공지능 시스템 등이 포함됐다. 국가행정·의료·교육 등 대규모 혼란을 일으킬 가능성을 사전에 검증하고 차단하겠다는 취지다. 또 ‘고위험’ 등급의 인공지능을 개발할 땐 반드시 인간이 감시하는 체계를 갖추도록 했다. 프랑스 라트리뷴은 “유럽의회가 (일어나지 않은 범죄를 사전 공지하는) 영화 ‘마이너리티 리포트’에서처럼 인공지능을 악용해 개인을 선험적으로 감시하고 미래 행동을 추론하지 못하도록 신중을 기하고 있다”고 풀이했다.

이미 사회적 문제로 떠오른 ‘인공지능을 활용한 딥페이크’(이미지나 소리 합성)나 챗봇을 활용한 자동응답 시스템 등은 ‘투명성이 필요한 위험’ 단계에 포함됐다. 해당 이미지·음성이 인공지능으로 만들어졌다는 걸 알려주는 ‘전자 라벨 의무화’ 등으로 위험을 방지한다는 방침이다. ‘스팸메일 분류’ 기능 같은 단순한 것들은 ‘최소 위험’ 영역으로 분류돼 필수 의무를 부과하지 않았다.

유럽연합 집행위원회는 이 법을 어긴 기업 등엔 최대 3500만유로(약 500억원)나 연간 세계 매출액의 7%의 제재금을 부과한다는 방침이다. 나아가 인공지능에 문제가 생겼을 경우, 이에 대응하는 ‘에이아이 오피스’라는 감독·집행 기관을 설치하기로 했다. 앞으로 각 회원국 부처가 모인 유럽연합 이사회가 이 합의안을 최종 승인하게 된다. 이 과정에 약 2년이 걸릴 것이란 전망이 나온다.

유럽연합은 2021년 인공지능으로 인한 인권침해와 무분별한 기술 이용을 막기 위한 규정을 만들고, 이에 기초해 회원국 전체가 합의하는 포괄적 법안을 만들고자 노력해왔다. 당시 규정 초안에 담겼던 △아동·장애인 등의 취약점을 파고드는 인공지능 금지 △법 집행에 인공지능 이용 제한 △딥페이크 악용 방지 대책 마련 등의 내용이 이번 합의안에 포함됐다. 프랑스·독일·이탈리아가 자국 기업이 불이익을 입을 수 있다며 난색을 보였지만, 집행위원회는 “이번에 합의된 규칙은 모든 회원국에 동일하게 적용된다”고 설명했다.

홍석재 기자 forchis@hani.co.kr

▶▶한겨레의 벗이 되어주세요 [후원하기]
▶▶한겨레 뉴스레터 모아보기▶▶[기획] 누구나 한번은 1인가구가 된다

[ⓒ한겨레신문 : 무단전재 및 재배포 금지]