유럽의회, 세계 첫 AI 규제법 채택…최종 협상만 남았다

챗GPT. 노드VPN 연합뉴스

유럽연합(EU)이 챗지피티(ChatGPT) 등 인공지능(AI)을 규제하기 위한 세계 최초의 법률 제정에 한 걸음 더 다가섰다.

유럽의회는 14일(현지시각) 본회의에서 유럽연합 전역에서 인공지능을 규제하기 위한 법안 협상안이 찬성 499표, 반대 28표, 기권 93표로 채택됐다고 밝혔다. 유럽연합 집행위원회가 2년 전인 2021년 인공지능 규제법 초안을 발의한 지 2년 만이다. 이에 따라 유럽의회는 이날 오후부터 집행위원회와 27개국을 대표하는 이사회와 함께 3자 협상에 돌입했다. 3자 협상은 유럽연합 입법 절차에 따라 새 법안 시행을 확정하기 전 거치는 최종 절차다. 유럽연합은 올해 안 3자 협상 타결을 목표로 하는데, 유예 기간 등을 고려하면 실제 규제 적용 시점은 2026년 정도가 될 것으로 보인다.

협상안에는 경찰이 범죄 예방을 명분으로 인공지능을 사용해 생체 인식 등 방대한 정보를 분석하는 것을 전면 금지하는 내용이 담겼다. △공공장소에서의 실시간 원격 생체 인식 △성별, 인종, 민족, 시민권 상태, 종교, 정치 성향 등 민감 정보를 사용한 생체 인식 △프로파일링이나 위치, 과거 범죄 행동에 기반을 둔 경찰의 예방 치안 활동 △법 집행, 국경 통제, 직장 및 교육기관에서의 감정 인식 △안면 인식 데이터베이스 구축을 위한 인터넷 및 폐쇄회로텔레비전(CCTV) 영상 얼굴 이미지 수집 등을 위한 인공지능 사용을 금지하기로 했다.

고위험군 인공지능 목록에는 유권자와 선거 결과에 영향을 미칠 수 있는 인공지능 시스템, 4500만명 이상의 사용자를 보유한 소셜 미디어 플랫폼에서 사용하는 추천 시스템이 들어갔다. 인공지능 모델 생산업체는 유럽연합 지역에서 해당 시스템을 출시하기 전 유럽연합 데이터베이스에 등록을 해야 한다.

챗지피티와 같은 대화 생성형 인공지능은 해당 콘텐츠가 인공지능으로 생성됐음을 밝히는 등 투명성 요건을 준수해야 한다. 인공지능 모델이 훈련을 위해 어떤 저작권이 있는 정보를 사용했는지도 요약해 공개해야 한다.

유럽의회는 이날 이 규제안이 “인간 중심적이고 신뢰할 수 있는 인공지능 활용을 촉진하고 인공지능의 유해한 영향에서 건강, 안전, 기본권, 민주주의 보호를 목표로 한다”라고 밝혔다.

베를린/노지원 특파원 zone@hani.co.kr

▶“더는 자식 죽이고 죽지 않기 위해, 보통의 삶을 위해”
▶▶한겨레의 벗이 되어주세요 [후원하기]▶▶한겨레 뉴스레터 모아보기

[ⓒ한겨레신문 : 무단전재 및 재배포 금지]