‘똑똑한’ 알고리즘이 ‘조종된’ 인간을 무너뜨릴 때

[머니투데이 김고금평 기자] [따끈따끈 새책] ‘안녕, 인간’…부와 권력을 지배하는 인공지능의 보이지 않는 공포

오늘날 기계시대를 움직이는 힘은 알고리즘이다. 소위 ‘명령어들의 집합’으로 불리는 알고리즘은 소셜 미디어부터 검색엔진, 위성 항법, 음악 추천에 이르는 모든 시스템을 세상에 제공한다.

병원과 법원, 자동차 등 전문 영역부터 경찰서와 슈퍼마켓, 영화 촬영소까지 자리 잡은 이 거대한 무형은 이제 없어서는 안 될 세상 편한 도구로 우리 곁을 지배한다.

얻는 만큼 잃는 것도 상당하다. 대표적인 것이 알고리즘으로 인한 개인 데이터 유출. 우리가 SNS(소셜네트워크 서비스)에 올린 글과 ‘좋아요’를 누른 게시물, 은밀한 검색 기록뿐만 아니라 정치 성향, 복용 약, 임신 중절 여부까지도 무심코 ‘동의’하는 순간, 모두 데이터 브로커에 팔린다.

브로커는 이 데이터를 이용해 우리의 호불호에 따라 관심사에 맞는 광고를 띄운다. 여기까지는 그럭저럭 넘어갈 수 있으나 문제는 이 데이터가 인간을 조종하는 데까지 쓰인다는 것이다. 대선 동안 조작된 가짜 뉴스를 퍼뜨려 유권자를 조종하고, 중국 정부는 각종 은밀하고 사적인 데이터를 점수로 집약한 즈마신용점수를 통해 개인 신용도를 평가한다.

이뿐만이 아니다. 알고리즘이 적용된 대부분의 산업에서는 개인의 이익과 공공의 이익이 충돌하는 갈등 상황이 적지 않게 발생한다.

예를 들어 암을 치료하는 데 쓰이는 의료 기계를 만들 때 개인과 인류 중 누구를 위해 작동해야 할지 선택해야 하는 상황이 그것. 게다가 인류 전체 이익을 위한 기계는 되도록 많은 생명을 살리는 데 우선순위를 둘 것이고 보험사의 목적에 맞춘 기계는 되도록 비용을 적게 들이려고 할 테고, 제약회사에 중점이 된 기계는 특정 약품을 다른 약품보다 많이 쓰도록 초점을 맞출 것이다.

자율주행 차량도 마찬가지. 차량을 설계할 때 어느 쪽의 목숨을 우선해야 할까. 충돌을 피할 수 없는 상황에서 콘크리트 벽을 들이받아 보행자를 살릴 것인지, 계속 달려 탑승자만을 살릴 것인지 선택을 피할 수 없는 상황과 대면해야 한다.

경찰이 체포할 용의자를 결정할 때 쓰는 알고리즘에서는 범죄 피해자와 결백한 피고인 중 누구를 보호할지 고민해야 한다. 판사가 유죄판결을 받은 범죄자의 형량을 정할 때 쓰는 알고리즘에선 사법 제도가 어떤 모습이어야 하느냐는 물음이 뒤따른다.

책임 소재와 윤리적 문제는 알고리즘 세상에서 불가피한 논제다. 결론 내리기 쉽지 않은 이 같은 딜레마는 알고리즘의 신뢰를 넘어 인간의 한계와 가치까지 결정할 것을 요구받는다.

저자는 “서로의 목표와 동기가 충돌할 때 알고리즘의 위험은 은폐되고 이익은 부풀려진다”며 “신기술의 중심에는 힘과 기대치, 통제, 책임의 위임과 관련한 난제들이 자리하고 있다”고 설명한다.

알고리즘의 역풍도 있다. 모든 걸 공평하게 처리할 것 같은 알고리즘에도 편향성이 드러나기 때문. 미국의 비영리 인터넷 언론 프로퍼블리카가 밝혀낸 사실에 따르면 계산 알고리즘이 모든 사람을 똑같이 다루지 않는다는 것이다.

만약 당신이 처음 체포된 뒤 다시는 말썽을 일으키지 않는 사람이라고 가정한다면, 이때 알고리즘이 당신을 고위험군으로 잘못 분류할 확률이 백인보다 흑인일 때 두 배였다.

저자는 “그렇다고 알고리즘이 무작정 나쁘다고 주장하는 것은 아니다”고 말한다. 다만 알고리즘으로 얻는 이익이 해로움보다 큰지 질문을 던져야 한다고 강조한다.

자신의 판단보다 기계를 더 신뢰해야 할 때가 언제인지, 기계에 통제권을 맡기고 싶은 유혹을 떨쳐야 할 때가 언제인지를 제대로 판단해야 한다는 것이다. 그러려면 기계의 오류와 결함은 물론, 인간의 결점과 약점까지 이해해야 한다고 저자는 지적한다.

저자는 “겉으로 드러나지 않는 힘을 얻은 알고리즘은 인간이란 어떤 존재인지와 관련한 규칙을 서서히, 미묘하게 바꾼다”며 “오만하고 독재적인 알고리즘은 깨부수고 기계를 객관적인 만능 해결사로 우러러보지 않는 미래를 만들어야 한다”고 말한다.

◇안녕, 인간=해나 프라이 지음. 김정아 옮김. 와이즈베리 펴냄. 352쪽/1만6800원.

김고금평 기자 danny@mt.co.kr

<저작권자 ⓒ '돈이 보이는 리얼타임 뉴스' 머니투데이, 무단전재 및 재배포 금지>