[횡설수설/이진영]인공지능(AI) 권리장전

내 취향에 맞는 영화와 책을 골라준다. 학생 수준에 따라 맞춤형 개별 지도가 가능하다. 손떨림 없이 수술하고 지치지 않고 간병해주는 로봇 상용화도 머지않았다. 이 모든 것이 인공지능(AI) 덕분이다. 그런데 AI 기술에서 앞서가는 미국에서는 부작용도 속출하고 있다.

▷AI는 공정하리라는 기대와 달리 편향적이다. 아마존은 AI 채용 프로그램을 개발했다가 남성 지원자를 과대평가하는 편향을 발견하고 폐기했다. AI는 직원들의 축적된 인사고과 자료를 기준으로 판단하는데 고과를 잘 받는 핵심 부서엔 남성이 많았던 것. AI 재판 지원 시스템에서는 흑인의 재범 가능성을 높게 예측하는 편향이, AI 의료 검사장비에서는 여성과 유색인종의 이상 징후를 못 잡아내는 편향이 포착됐다. 백인 남성 신체가 오랫동안 표준이 돼왔기 때문이다. 기존 데이터에 의존하는 AI의 판단은 보수적일 수밖에 없다.

▷AI를 의도적으로 악용할 경우 위험성은 더욱 커진다. 딥페이크 기술을 활용한 가짜 영상이 대표적이다. 소셜미디어의 여성 사진을 누드로 편집하는 AI가 등장했고, 오바마 대통령이 “트럼프는 머저리”라고 욕하거나, 우크라이나 젤렌스키 대통령이 러시아에 항복을 선언하는 딥페이크 영상이 돌았다. 최근에는 가방이나 열쇠 같은 물건에 붙여두면 실시간 위치를 확인해 분실 걱정을 덜어주는 애플의 에어태그가 스토킹 범죄에 활용돼 논란이다. AI를 탑재한 자율살상 로봇 시장이 커지는 것도 큰 문제다.

▷미국 백악관은 5개조로 구성된 ‘AI 권리장전(Bill of Rights)’ 청사진을 4일 발표했다. 차별받지 않을 권리, 개인정보를 보호받을 권리, 안전하고 효과적으로 사용할 권리, AI 작동 방식에 대해 충분한 설명을 들을 권리, AI 대신 사람을 선택할 수 있는 권리다. 하지만 수정헌법 10개조로 구체화된 1791년 ‘권리장전’과 달리 법적 구속력이 없어 ‘이빨 없는’ 지침이라는 비판이 나온다. 유럽연합은 2018년 개인정보보호법을 제정한 데 이어 AI로부터 피해를 입으면 손해배상을 청구할 수 있는 법안을 마련 중이다.

▷정부가 내년에 ‘디지털사회 기본법’을 제정하고 ‘디지털 권리장전’도 만든다고 한다. 최근 발표 내용을 보면 디지털 권리장전은 디지털 기술을 보편적 권리로 규정해 디지털 격차를 해소하는 데 초점이 맞춰져 있을 뿐 윤리적 활용에 대한 고민은 빠져 있다. 기술은 빠르게 변화하는데 기본 인권을 지켜낼 제도 정비의 속도는 너무나 더디다. AI가 사람을 해치는 기술이 되지 않도록 입법과 기업 활동에 지침이 되는 정부 가이드라인을 서둘러 마련해야 한다.

이진영 논설위원 ecolee@donga.com

ⓒ 동아일보 & donga.com, 무단 전재 및 재배포 금지