세계 첫 인공지능 규제법 다음달 발효…‘생체정보 인식’ 전면 금지

마르그레테 베스타게르 유럽연합 경쟁 담당 수석 부집행위원장(왼쪽)과 티에리 브르통 유럽연합 내부 시장 담당 집행위원이 2021년 4월 인공지능 규제 방안을 밝히는 기자회견을 하고 있다. 브뤼셀/EPA 연합뉴스

(☞한겨레 뉴스레터 H:730 구독하기. 검색창에 ‘한겨레 h730’을 쳐보세요.)

유럽연합(EU)이 세계에서 처음으로 마련한 인공지능(AI) 규제법이 최종 확정돼 다음달 발효된다. 이에 따라 폐회로텔레비전(CCTV)을 이용한 안면 인식 같은 실시간 생체 정보 인식 시스템이 올해 중으로 전면 금지된다.

유럽연합 회원국들로 구성된 이사회가 21일(현지시각) 인공지능법안을 최종 승인했다고 로이터 통신 등이 보도했다. 이날 승인된 법안은 지난해 12월 유럽연합 회원국들이 합의하고 지난 3월13일 유럽의회를 통과한 것이다.

입법 절차가 마무리됨에 따라 이 법은 다음달 발효되며, 구체적인 첫 조처는 발효 6개월 뒤부터 시행된다. 전면 시행 시기는 발효 24개월 뒤인 2026년 중반이다.

이 법은 인공지능 기술을 위험도에 따라 4등급으로 나누고, 위험도가 특히 높은 2개 등급의 기술은 전면 금지하거나 엄격하게 규제하는 걸 뼈대로 한다.

인권을 심각하게 위협하는 일부 기술은 ‘용납할 수 없는 위험’으로 분류돼, 법 시행 6개월 뒤부터 전면 금지된다. △어린이에게 위험한 행동을 조장하는 음성 인식 장난감 같은 인지 조작 시스템 △행동이나 사회·경제적 지위 등에 따라 사람을 분류하는 ‘사회 평가’ 시스템 △생체 인식과 사람 분류 시스템 △실시간·원격 생체 정보 인식 시스템이 여기에 해당한다.

다만, 정부의 법 집행기관이 실종자 수색이나 테러 공격 대응과 같은 중대 범죄 수사를 위해 특정 기간 동안 제한된 장소에서 실시간 생체 정보 인식 시스템을 사용하는 것은 예외적으로 허용된다.

‘고위험’ 기술로 분류된 시스템들은 판매 전과 사용 기간 중 지속적인 위험 평가를 해야 한다. 시민들이 이런 시스템에 대해 불만을 제기하고 인공지능 시스템에 근거해 이뤄진 결정에 대한 해명을 요구하는 것도 가능해진다. 이 등급으로 분류된 시스템은, 중요 기반시설 관리·운영 시스템, 교육 시스템, 고용 관리 시스템, 이주·국경 통제 시스템, 법률 지원 시스템 등이다. 장난감, 항공기, 차량, 의료기기와 같이 안전 규제 대상 제품에 쓰이는 인공지능 기술도 ‘고위험’ 기술로 분류됐다.

챗지피티(GPT)와 같은 생성형 인공지능 서비스는 고위험 기술로 분류되지 않았으나, 투명성 의무가 부과된다. 생성형 인공지능을 이용해 만든 콘텐츠는 별도로 표시해야 하며, 저작권 위반을 방지하는 장치도 마련되어야 한다. 생성형 인공지능 가운데 체계적인 위험을 제기할 수 있는 ‘고영향력’ 시스템은 별도의 평가를 거쳐야 하며 심각한 사고가 발생하면 유럽연합에 보고해야 한다.

강력한 처벌 규정도 함께 마련됐다. 법 위반이 적발될 경우, 750만유로(약 111억원) 또는 전세계 매출의 1.5%부터 최대 3500만유로(약 518억8천만원) 또는 전세계 매출의 7%까지 과징금이 부과된다.

유럽연합의 인공지능법은 2021년 처음 제안됐으며, 이듬해 11월 챗지피티가 등장하고 인공지능의 부작용에 대한 우려가 커지면서 입법 논의가 빨라졌다. 로이터 통신은 이 법이 자율적 규제 방식을 취하는 미국보다 훨씬 포괄적인 규제를 담고 있다며 이 법이 전세계에 인공지능 규제의 기준을 제시할 것으로 예상된다고 지적했다.

마티외 미셸 벨기에 디지털 장관은 성명을 내어 “세계 최초로 제정된 이 획기적인 법은 전세계적인 기술 과제에 대응하는 것”이라며 “인공지능법을 통해 유럽은 새로운 기술을 다룸에 있어서 신뢰, 투명성, 책임을 강조한다”고 말했다.

신기섭 선임기자 marishin@hani.co.kr

▶▶권력에 타협하지 않는 언론, 한겨레 [후원하기]
▶▶한겨레 뉴스레터 모아보기▶▶[기획] 누구나 한번은 1인가구가 된다