빅데이터는 공정할까…보이지 않는 살상무기? 우려

[[따끈따끈새책] 불평등 확산· 민주주의 위협…알고리즘의 역습]

빅데이터는 방대한 양의 데이터를 논리적이고 합리적인 알고리즘으로 계산해 인간이 인지하지 못하는 질서와 규칙을 찾아낸다. 수학이론과 IT기술, 데이터를 결합해 탄생한 빅데이터 모형은 편견에 사로잡힌 인간보다 공정하며 개인의 권리와 이익을 보호한다고 알려져 있다. 하지만 정말 그럴까?

이 책의 대답은 '아니오'다.

저자 캐시 오닐은 빅데이터 모형 가운데 인간이 지닌 편견과 차별의식을 그대로 코드화한 알고리즘을 사용한 것들이 많다고 지적한다. 그리고 우리 삶 곳곳에 사용되는 그러한 모형이 대량살상무기(Weapons of Mass Destructon)와 같은 위험성을 내포한다고 경고한다. 그는 이를 '대량살상 수학무기(Weapons of Math Destruction)', 줄여서 WMD라고 이름붙였다.

예를 들어 고객의 신용평가점수를 계산할 때 재무정보 뿐 아니라 인종, 학력, 출신지, 범죄기록 등 온갖 데이터를 수집해 신용도를 예측하는 'e점수'가 최근 널리 쓰이고 있다. e점수를 활용해 단기소액대출을 제공하는 한 스타트업에서는 대출 신청자가 맞춤법을 맞게 쓰는지, 구두점은 제대로 찍는지 등의 정보까지 수집한다. 이것은 규칙을 준수하는 사람의 신용도가 높다고 본 것인데, 이 때문에 교육 수준이 낮은 저소득층이나 이민자들이 높은 이율의 대출을 받게 됐다. 가난이나 인종에 대한 차별이 교묘하게 데이터 모형에 반영된 것이다. e점수가 대출 뿐 아니라 취업, 보험, 결혼업체에까지 고객을 평가하는 잣대로 확장되면서 사회 곳곳으로 차별적 판단이 확산되고 있다.

우리는 알고리즘 덕분에 과거에 누리지 못한 힘을 가지게 됐지만 그 과정에서 저소득층과 소수계층 상당수가 시스템에 의한 차별을 받게 됐다. 이 책은 불평등을 확산시키고 나아가 민주주의까지 위협할 수 있는 빅데이터의 이면을 직시해야 한다고 충고한다.

◇대량살상 수학무기 = 캐시 오닐 지음. 김정혜 옮김. 흐름출판 펴냄. 329쪽/1만6000원.

이경은 기자 kelee@mt.co.kr

<저작권자 ⓒ '돈이 보이는 리얼타임 뉴스' 머니투데이, 무단전재 및 재배포 금지>