EU, 인공지능 남용 제동…위반시 ‘최소 400억 벌금’도 논의

인종 차별 등 편향된 알고리즘, 감시·통제 금지 규정안 발표

미국·중국이 주도하는 기술에 대한 국제 기준 제시 움직임

마르그레테 베스타게르 유럽연합(EU) 경쟁 및 기술 담당 집행위원(왼쪽)이 21일(현지시각) 벨기에 브뤼셀 유럽연합 본부에서 인공지능 규제 관련 규정안을 발표하는 기자회견을 하고 있다. 브뤼셀/로이터 연합뉴스

인종적 편견 같은 결함에 대한 충분한 대비 없이 인공지능(AI)을 활용하거나 인공지능을 감시·통제에 이용하는 행태에 유럽연합(EU)이 제동을 걸고 나섰다.

유럽연합 집행위원회는 21일 인공지능 시스템을 통한 인권침해를 막고 무분별한 기술 이용을 통제하기 위한 ‘인공지능에 관한 일치된 규칙의 기반 규정’ 초안을 공개했다고 <로이터> 통신 등이 보도했다. 이 안은 미국과 중국이 주도하고 있는 인공지능 기술에 대한 국제적 기준을 제시하기 위한 움직임이라고 통신은 지적했다. 미국의 경우 기술기업들의 인공지능 상업화 시도가 두드러지고, 중국은 감시·통제 등에 인공지능을 특히 적극 활용하고 있다.

마르그레테 베스타게르 경쟁 및 기술 담당 집행위원은 “인공지능에서 신뢰는 필수 요소다. 오늘 내놓은 획기적 규정을 통해 유럽연합은 신뢰할 수 있는 인공지능 시스템 기준 마련의 선봉에 나섰다”고 배경을 설명했다.

이 규정은 안면 인식 시스템 등을 통제에 활용하는 정부 기관과 인공지능 알고리즘을 이용해 부당한 차별을 유발할 여지가 있는 기업 등을 주로 겨냥하고 있다. 우선, 아동·장애인 등 특정 집단의 취약점을 파고드는 인공지능 시스템은 사용이 금지된다. 개인의 행동을 왜곡하기 위해 인공지능 기술을 은밀하게 사용하는 것도 막았다. 또 생체정보를 활용한 신원 확인은, 실종 아동 수색이나 테러 대응 등 꼭 필요한 경우에만 허용했다. 핵심 기간시설, 이민 업무, 법 집행을 위한 인공지능 활용도 엄격히 통제된다.

기업 활동과 관련해서는, 인종 차별 등 편향된 알고리즘, 온라인 활동 정보 수집을 통한 개인 평판 점수화 등에 대한 규제가 주요 내용이다. 규정을 위반한 기업에 대해서는 전세계 매출의 6% 또는 3000만유로(약 400억원) 중 큰 액수의 벌금을 부과하는 조항도 포함됐다.

이 규정이 확정되려면 적어도 2023년까지는 논의를 거쳐야 하는데, 인권단체와 기업 대변 단체는 즉각 상반된 반응을 내놨다. 비정부기구와 학자 등으로 구성된 인권단체 ‘유럽 디지털 권리’는 “초안이 생체정보를 이용한 대규모 감시를 완전히 금지하지 않는 등 허점을 드러냈다”며 “이 때문에 차별적인 감시 기술 차단에 사각지대가 생길 것”이라고 지적했다. 반면, 정보기술 업계를 대변하는 미국 ‘컴퓨터통신산업협회’(CCIA)는 “이 규정이 기업들과 사용자들에게 불필요한 요식 절차를 더 부과하지 말아야 할 것”이라고 밝혔다.

이 규정의 적용 범위는 유럽연합 회원국에 영향을 주는 활동이지만, 온라인을 통한 활동이나 서비스의 경우 국경 구분이 무의미하기 때문에 미국·중국을 비롯한 전세계에 실질적인 영향을 끼칠 수 있다. 미국 법률사무소 쿨리의 파트리크 판에이커 유럽 정보 부문 책임자는 “(이 때문에) 규정을 완화하려는 기업들과 외국 정부의 강력한 로비 활동이 예상된다”고 지적했다. 신기섭 선임기자 marishin@hani.co.kr

▶더불어 행복한 세상을 만드는 언론, 한겨레 구독하세요!
▶esc 기사 보기▶4.7 재·보궐선거 이후 기사 보기

[ⓒ한겨레신문 : 무단전재 및 재배포 금지]