컨텐츠 바로가기

새 정부가 미는 AI 학력평가·경호로봇…인권위 지침에 위배

댓글 첫 댓글을 작성해보세요
주소복사가 완료되었습니다
인권위 가이드라인과 충돌하는 AI 공약

AI 학력평가, 영국선 부작용에 폐기

“완전히 자동화된 결정만으로 개인에 중대영향 안돼”



생체정보 수집 우려 ‘경호 로봇’


“공공장소 얼굴 인식 등 원격 생체인식 기술 금지해야”


한겨레

게티이미지뱅크

<이미지를 클릭하시면 크게 보실 수 있습니다>


인공지능(AI) 기반 무인·로봇 전투체계, 인공지능을 활용한 학력진단 시스템, 인공지능과 빅데이터를 이용한 대국민 행정시스템 대전환….

윤석열 대통령이 대선 후보 시절부터 공약집 등을 통해 밝힌 정책들이다. 윤 대통령은 인공지능 기반의 행정서비스를 골자로 한 ‘디지털 플랫폼 정부’ 구축 공약을 내세워 왔다. 그 세부 방침들이 17일 국가인권위원회(인권위)가 내놓은 ‘인공지능 개발과 활용에 관한 인권 가이드라인’과 상당 부분 충돌할 것으로 예상돼 주목된다. 인권위 가이드라인이 새 정부의 ‘인공지능 만능론’에 브레이크 구실을 해줘야 한다는 주문도 나온다.

이날 <한겨레> 취재 내용을 종합하면, 윤석열 정부 출범 전 대통령직인수위원회가 내놓은 ‘110대 국정과제’ 등에는 인권위 가이드라인을 거스르는 것으로 판단되는 대목이 즐비하다. 인공지능을 초·중·고 학생들의 학습 지원과 ‘평가’에 활용한다는 대목이 대표적이다. 국민의힘은 지난 2월 낸 윤석열 대선후보 캠프 공약집에서 “모든 학생의 학력을 진단·평가해 빅데이터를 구축”해, “인공지능을 활용한 학력진단 시스템”을 도입하겠다고 밝혔다. 학생들의 평소 성적을 바탕으로 인공지능이 ‘기초학력 미달자’ 등을 가려 수준별 교육을 제공하겠다는 의미로 풀이된다.

그러나 인공지능을 통한 학업성취도 평가는 국외에선 부작용이 확인돼 이미 폐지된 정책이다. 영국 시험감독청은 코로나19 대유행 첫해인 2020년 대학입학시험을 취소하고 인공지능 알고리즘으로 수험생 성적을 매겼다. 그러나 알고리즘이 비교적 부유한 지역 사립학교 학생들의 성적을 공립학교 학생들보다 대체로 높게 책정한 것으로 드러나면서, 이 점수는 폐기됐다.

이런 방식은 인권위 가이드라인에도 위배된다. 가이드라인은 “완전히 자동화된 의사결정으로만 개인에게 법적 효력 또는 중대한 영향을 미치는 일은 제한돼야 한다”고 명시했다. 당사자의 ‘거부권’도 인정돼, 학생이 알고리즘 판단이 아닌 별도의 시험 등으로 평가받기를 원할 경우 이 선택을 보장해야 한다.

인공지능·빅데이터 등을 활용해 사회복지서비스를 강화하는 구상도 가이드라인과 충돌할 소지가 크다. 복지급여·서비스의 수혜자를 인공지능으로 가릴 경우, 당사자가 판단 근거를 명확히 이해하기 어려워 결과를 받아들이지 않을 가능성이 높다.

인공지능 ‘경호로봇’ 등도 정보인권 침해 우려가 큰 대목이다. 윤 대통령 쪽은 대통령 경호를 인공지능에 기반한 무인로봇 경호체계로 바꿔야 한다고 정부 출범 이전부터 밝힌 바 있다. 경호 로봇은 시민들의 얼굴·동작 등 생체정보를 인식해 작동한다. ‘위험인물’ 등의 신원을 파악하기 위해 다중에 대한 식별·추적 기능을 갖출 가능성도 높다. 이는 “공공장소에서 얼굴인식 등 원격 생체인식 기술을 금지해야 한다”는 인권위 가이드라인과 부딪친다. 새 정부가 인수위 시절 밝힌 ‘인공지능 기반 무인 전투체계’ 역시 “자율살상 무기를 금지하는 국제 규범을 준수해야 한다”는 가이드라인에 어긋난다.

민변·참여연대 등 시민·사회단체들은 최근 이와 관련해 공동으로 성명을 내어 “이들 인공지능 정책은 모두 인권에 부정적 영향을 미칠 위험이 높은 영역들”이라며 “인권 보호 장치가 마련되기 전까지는 모든 고위험 인공지능의 도입을 유예해야 한다”고 촉구했다.

다만, 가이드라인이 실질적인 ‘제동장치’로 기능하려면 개인정보보호위원회(개보위) 등 관련 기관의 적극적인 후속 입법이 뒤따라야 한다는 지적이 나온다. 인권위 가이드라인에 법적 강제력이 없는 데다, 정보인권 침해 여부 등을 판단하려면 개인정보보호법 전문기관 등의 개입이 필요하기 때문이다. 인권위는 가이드라인에서 “과학기술정보통신부, 개보위, 방송통신위원회, 공정거래위원회, 금융위원회의 장은 가이드라인에 기초해 인공지능 관련 정책을 수립·이행하고, 관계 법령을 제·개정할 것”을 권고했다.

한국보다 발빠르게 입법을 추진 중인 유럽연합(EU) 역시 이 문제를 인권기구와 더불어 개인정보 감독기구 등의 소관으로 본다. 유럽연합 인공지능법안은 한국의 공정위 격인 각 나라 시장감독기구와 개보위 격인 유럽 데이터보호감독관(EDPS)이 ‘유럽 인공지능위원회’를 구성해야 한다고 규정했다.

천호성 기자 rieux@hani.co.kr

벗 덕분에 쓴 기사입니다. 후원회원 ‘벗’ 되기
항상 시민과 함께 하겠습니다. 한겨레 구독 신청하기‘주식 후원’으로 벗이 되어주세요!

[ⓒ한겨레신문 : 무단전재 및 재배포 금지]


기사가 속한 카테고리는 언론사가 분류합니다.
언론사는 한 기사를 두 개 이상의 카테고리로 분류할 수 있습니다.