‘AI 3대 강국’이라는 속도전…그곳엔 사람이 없다

지난 1월8일 서울 종로구 참여연대에서 열린 ‘대한민국 인공지능(AI) 행동계획(안) 대응 시민사회 기자설명회’에서 참석자들이 정부 정책의 문제점을 지적하고 있다. 최현수 기자 emd@hani.co.kr

정부와 국가인공지능전략위원회가 지난해 12월 발표한 ‘대한민국 인공지능(AI) 행동계획(안)’은 2030년까지 세계 3대 인공지능 강국으로 도약하겠다는 거창한 포부를 담고 있다. 9조8천억원의 예산을 투입해 ‘인공지능 고속도로’를 닦겠다는 이 화려한 청사진 뒤에는, 정작 기술의 영향을 직접 받게 될 시민들의 권리와 안전에 대한 고려가 철저히 소외돼 있다는 비판이 나온다.

정보인권연구소, 참여연대 등 시민사회단체는 이번 행동계획이 기술 수용의 주체인 인간을 단순히 데이터 제공 객체나 서비스 소비자로 전락시켰다며, 민주주의·인권·노동 영향평가 도입을 강력히 촉구하고 나섰다.

오병일 디지털정의네트워크 대표는 지난 8일 서울 종로구 참여연대에서 열린 ‘대한민국 인공지능 행동계획 대응 시민사회 기자설명회’에서 “인공지능은 노동자, 취약계층, 여성을 포함한 시민들의 삶과 권리에 중대한 영향을 미치게 되는데 행동계획에는 이에 대한 종합적인 대책이 없다”고 말했다. 장여경 정보인권연구소 상임이사도 “행동계획이 인공지능을 단순히 하나의 산업 분야로만 바라보는 협소한 시각에 갇혀 있다”고 지적하며, 정책 전반의 패러다임 전환을 촉구했다.

기술 개발의 속도전에 가려진 ‘사람’의 목소리와 시민사회가 요구하는 분야별 권리 보호 대책이 무엇인지 짚어본다.

취약계층: 복지 장벽 더 높여

정부는 인공지능을 통해 사각지대 없는 ‘정밀 복지’를 구현하겠다고 하지만, 현장에서는 기술 의존이 오히려 취약계층을 배제할 것이라고 우려한다. 김윤영 빈곤사회연대 활동가는 과거 ‘행복e음’ 도입 사례를 언급하며, “전산망 속 데이터와 실제 삶의 간극을 입증할 책임을 빈곤층에 전가하는 자동화 행정은 결국 급여 포기를 종용하는 장치가 될 것”이라고 우려했다.

2010년 도입된 사회보장통합관리망 행복e음은 소득·재산 자료를 통합해 효율적인 관리를 표방했으나, 실제로는 단기간에 44만 8천여명의 수급 자격을 박탈하는 결과를 낳았다. 이 과정에서 부양의무자 기준 등으로 인해 수급이 끊긴 노인들이 스스로 목숨을 끊기도 했다. 김윤영 활동가는 “현실의 빈곤과 정책 사이의 간극을 메우는 것은 결국 복지 공무원의 역할인데, 인공지능 도입은 이러한 인간적 개입의 여지를 줄일 가능성이 높다”고 짚었다.

정부가 추진하는 인공지능 기반 ‘사각지대 발굴’ 역시 제도의 빈약함을 기술로 가리는데 그칠 수 있다. 현재 정부는 47종의 위기 정보를 수집해 대상자를 찾지만, 기초생활보장으로 연결되는 비율은 단 4.3%에 그친다. 이는 발굴해도 지원할 제도가 없는 구조적 모순 때문이다. 김윤영 활동가는 “수급자나 현장 노동자의 이해를 대변하지 못하는 디지털화는 불평등을 재생산할 뿐”이라며, 사회보장 영역이 빅테크 기업의 이윤을 위한 ‘베타 테스트 장’이 되어서는 안 된다고 강조했다.

류제명 과학기술정보통신부 2차관이 지난 1월15일 서울 종로구 정부서울청사에서 ‘독자 에이아이 파운데이션 모델 사업’ 1단계 평가 결과를 발표하고 있다. 정용일선임기자yongil@hani.co.kr

의료: 환자 데이터 주권 침해

의료 분야에서는 환자의 민감한 정보를 인공지능 학습에 활용하기 위해 규제를 완화하겠다는 행동계획이 논란거리다. 김진환 서울대 보건환경연구소 교수는 사회적 불평등이 이미 의료 데이터 생성 과정에 반영돼 있다는 점을 먼저 지적했다. 그는 “쪽방촌 주민처럼 의료 기록에서 누락된 이들의 데이터가 배제된 채 학습된 인공지능은 특정 인구집단의 위험도를 잘못 평가하는 차별을 낳을 수 있다”고 말했다.

또한 “가명 처리조차 하지 않은 원본 데이터를 안전성이 담보되지 않은 상태에서 사용하는 것은 환자의 데이터 주권을 심각하게 침해하는 것”이라며, 정보 주체의 실질적 거부권 보장과 더불어 신뢰 구축이 선행돼야 한다고 강조했다.

인공지능 기술 도입이 국가가 마땅히 책임져야 할 공공의료 인프라 확충의 대안이 될 수 없다는 지적도 나왔다. 전은경 참여연대 사회복지위원회 팀장은 “정부는 지역 간 의료 격차를 인공지능으로 해결하겠다지만, 이는 공공의료 인력 확충이라는 국가의 의무를 기술 뒤로 회피하는 것”이라고 짚었다. 우리에게 시급한 것은 정교한 알고리즘이 아니라 사람 중심의 견고한 의료 안전망이라는 주장이다.

지난 8일 서울 종로구 참여연대에서 열린 ‘대한민국 인공지능(AI) 행동계획(안) 대응 시민사회 기자설명회’에서 참석자들이 정부 정책의 문제점을 지적하며 손팻말을 들고 구호를 외치고 있다. 최현수 기자 emd@hani.co.kr

노동: ‘알 권리’ 없는 채용·평가

노동 분야에서는 인공지능으로 인한 일자리 대체가 현실화하고 있음에도 정부 대책은 ‘직무 재교육’과 ‘실업급여 지원’ 정도에만 그치고 있다. 장여경 이사는 “쉬운 해고를 용인하면서 개인이 공부해서 살아남으라는 식의 접근”이라며, “노동이라는 기본 인권 보호 책무를 국가가 개인의 책임으로 떠넘기는 행위”라고 강하게 비판했다.

실제로 인공지능 채용 과정에서 발생하는 편향성 문제와 기업의 영업비밀 보호 논리가 충돌하며 노동 권익이 침해되는 사례가 늘고 있다. 예컨대 국내 대기업과 공공기관 일부는 서류·인적성 전형에 인공지능 분석 시스템을 도입해 지원자의 표정·억양, 이력 패턴 등을 종합 평가하는 방식을 쓰고 있다. 그러나 시민단체들은 이러한 시스템이 ‘야망’ ‘호감도’ 같은 모호한 정성 지표를 바탕으로 지원자를 걸러내면서도, 구체적인 평가 기준과 알고리즘 구조는 “영업비밀”을 이유로 공개하지 않는다고 비판한다. 차별 시비가 제기돼도 구직자가 스스로 입증하기 극히 어려운 구조라는 지적이다.

전문가들은 기술 도입에 따른 ‘책임 공백’을 메우기 위해 사후 지원 위주의 정책에서 탈피해 선제적인 입법에 나서야 한다고 강조한다. 가장 구체적인 대안으로는 ‘노동 영향평가’ 도입이 꼽힌다. 이는 인공지능 도입 전후의 직무 구조 변화를 성별·직군별로 정밀 측정하여 잠재적인 고용 불안 요소에 선제적으로 대응하기 위한 장치다. 이와 함께 알고리즘에 의한 인사 결정에 대해 노동자가 구체적인 근거를 요구할 수 있는 ‘설명 요구권’을 법제화해야 한다는 목소리도 커지고 있다.

교육: 충분한 검증 없이 추진

교육 분야에서는 기술의 ‘활용’ 역량 강화에만 치중하면서, 정작 기술이 학생들의 가치관 부재와 결합했을 때 발생할 수 있는 ‘윤리적 재앙’은 방치하고 있다는 비판이 나온다.

송근상 충남 서천초등학교 교사는 “아이들은 인공지능 활용 기술은 10분이면 익히지만, 가치관이 형성되지 않은 상태에서 그 기술로 무엇을 할지는 누구도 통제할 수 없다”고 말했다. 글로벌 기업의 코딩 시험을 인공지능으로 속이고, 그 기술로 투자까지 유치한 미국 대학생 로이 리 사례를 대표적인 경고 신호로 그는 소개했다.

로이 리는 2025년 컬럼비아대 재학 당시, 자신이 개발한 실시간 정답 생성 도구 ‘인터뷰 코더(Interview Coder)’로 아마존·메타 등 글로벌 기업의 온라인 코딩 시험을 무력화해 큰 파장을 일으켰다. 이 과정이 온라인에 공개되자 해당 기업들은 인턴 합격을 취소했고 학교 쪽도 중징계를 내렸으나, 논란은 오히려 창업의 발판이 됐다. 그는 동료와 함께 화상 면접 답변 생성 서비스인 ‘클루엘리’를 설립해, 최근 미국 벤처캐피털로부터 약 530만 달러(약 75억원) 규모의 시드 투자를 유치하는 데 성공했다.

송 교사는 이를 두고 “램프의 요정 지니가 악인의 손에 들어간 것과 같은 종말적 상황”이라고 비유하며, “윤리 교육을 정규 교육과정의 성취 기준으로 조속히 편입해야 한다”고 말했다. 지금 필요한 것은 속도전이 아니라 기술이 인간의 존엄성을 훼손하지 않도록 하는 민주적 합의와 성찰적 교육 설계라는 지적이다.

하정우 AI미래기획수석 지난해 11월7일 서울 용산 대통령실에서 과학기술인 국민보고회 관련 브리핑을 하고 있다. 대통령실사진기자단

여성: 구조적 차별의 재생산

인공지능 알고리즘이 기존의 성차별과 고정관념을 그대로 학습해 차별적인 결과를 내놓을 위험이 크지만, 이번 행동계획에는 이를 막기 위한 대책이 거의 없다는 비판이 나온다. 온다 한국여성민우회 활동가는 “인공지능 정책 전반에서 성평등 관점이 여기저기 흩어져 있을 뿐, 이를 묶어내는 통합적 행동계획이 보이지 않는다”고 지적했다. 특히 돌봄 노동, 플랫폼 노동처럼 인공지능 도입의 직접적인 영향을 받는 영역에 여성 비율이 높은데도, 이런 구조적 현실을 반영한 정책 설계가 전혀 보이지 않는다고 덧붙였다.

또 인공지능이 만들어내는 이미지와 콘텐츠가 여성을 성적으로 대상화하거나, 특정 인종·성별을 고정된 틀에 가두는 경향이 이미 여러 차례 확인됐지만, 윤리적 가이드라인을 ‘자율 규제’에만 맡겨둔 상태다. 온다 활동가는 “딥페이크 성착취와 온라인 젠더 폭력 문제는 사후 처벌에 머물 것이 아니라, 애초에 이런 피해가 발생하지 않도록 하는 성인지적 예방 원칙이 정책 설계와 거버넌스 단계부터 반영돼야 한다”고 강조했다.

이재명 대통령이 지난해 10월1일 서울 용산 대통령실 청사에서 챗GPT 개발사 오픈AI의 샘 알트만 대표를 접견하고 있다. 대통령실사진기자단

‘민주주의 영향평가’ 필요

유엔(UN)과 국가인권위원회는 인공지능 정책 수립 시 실질적인 ‘영향을 받는 당사자’들의 주체적 참여와 인권에 중대한 영향을 미치는 경우 ‘사전 인권 영향평가’ 실시를 권고하고 있다.

그러나 이번 행동계획은 기술 전문가와 산업계 위주의 폐쇄적인 거버넌스 아래 수립돼 정작 인공지능의 영향을 직접 받게 될 평범한 시민과 노동자, 인권 전문가들의 목소리가 배제됐다. 장여경 상임이사는 “인공지능 시대를 향해 정신없이 달려가다 보면 민주주의라는 중요한 가치를 잃게 되고, 시민을 소외시킨 채 일부 기업에만 부를 집중시키게 될 것”이라고 우려했다. 이를 막기 위해서는 사회 각 분야의 당사자들이 충분히 참여하는 구조로 거버넌스를 새로 짜서 민주주의·인권 영향평가를 정책의 핵심으로 편입해야 한다고 덧붙였다.

또한 정책 결정 과정에서의 민주적 정당성 결여도 주요 비판 지점이다. 190쪽에 달하는 방대한 행동계획안을 연말연시가 포함된 단 20일(실무일 기준 약 12일) 동안만 의견 수렴을 받았기 때문이다. 이번 행동계획에 의견을 낸 백승헌 변호사는 “짧은 기간 의견을 받는 방식은 시민과 현장을 동등한 정책 주체가 아닌 ‘사후 검토자’나 ‘참고인’으로 전락시키는 구조적 제약을 안고 있다"고 지적했다. 특히 “난해한 전문 용어와 190쪽의 방대한 계획서만 던져준 채 공론장을 통한 이해 확산 과정이 부족했던 점은 참여의 외형만 갖춘 형식적 절차”라고 비판했다.

결론적으로 시민사회단체는 이번 행동계획을 “개발 시대의 따라잡기 전략의 재판”이자 “브레이크 없는 고속열차”로 규정했다. 이들은 “산업을 위해 인권을 희생시켰던 과거의 오류를 반복하지 않으려면 기술을 경제 발전의 수단으로만 보지 말고, 국가 운영 방식을 바꾸는 근본적인 변화로 대하는 성찰적인 접근이 필요하다”고 했다.

정은주 한겨레경제사회연구원 기자 ejung@hani.co.kr

[한겨레 후원하기] 시민과 함께 민주주의를

겨울밤 밝히는 민주주의 불빛 ▶스토리 보기

▶▶한겨레 뉴스레터 모아보기