통제받지 않는 알고리즘의 문제

이젠 인간이 제대로 파악조차 할 수 없는 수많은 수학적 알고리즘들은 인간의 삶 곳곳을 지배하고 있다. 수학자 출신으로 헤지펀드에서 일하기도 했던 캐시 오닐은 그것이 부익부빈익빈의 양극화를 불러일으키고 민주주의를 파괴한다고 우려한다. 출처 게티이미지.

공정거래위원회가 플랫폼사업자의 위법행위로부터 소비자와 입점자를 보호하기 위해 추진하던 플랫폼공정화법이 좌초했다. 플랫폼사업자들의 위법성은 다양하다. 논란이 있지만, 쿠팡은 알고리즘 조작으로 천억대의 과징금 처분을 받았고, 카카오모빌리티도 수백억원대의 과태료 처분을 받았다. 불공정거래행위는 시장 질서를 어지럽히고 소비자의 이익에 반하기 때문에 엄격하게 규제되어야 한다.

플랫폼사업자들은 규제가 능사가 아니라고 주장한다. 물론, 시장의 자율성은 존중받아야 하는 게 당연하다. 플랫폼사업자들은 자사의 플랫폼에 대해 기업이 가장 잘 알기 때문에 법과 원칙에 따를 수 있다고 말한다. 그런 측면이 있다. 그런데 그렇게만 해왔다면, 정부의 정책을 규제라고 하지 않을 것이고 규제로 불리는 정책이 수립되거나 관련 입법이 추진될 일도 없었을 것이다. 현실에서는 오히려 그러한 이해를 악용해왔다. 외부의 규제가 필요한 배경이다.

얼마전 플랫폼사업자의 위법성에 대한 기사를 해당 플랫폼사업자 대표에게 보낸 적이 있다. 대뜸 ‘악의적인 일방적 주장만 가지고 어떻게 그리 확신을 하는지 납득하기 어렵다’는 반응이 돌아왔다. 그 대표의 ‘악의적이고 일방적인 주장’이라는 회신에 해당 기자는 소설을 쓰는 사람이 되었다.

현재 플랫폼사업자와 배달사업자간 상생협력이 논의 중이라고 한다. 그 와중에 ‘위법행위를 하더라도 배달사업자의 수수료를 인하하면 면책해달라’는 주장을 쿠팡 쪽에서 했다는 보도가 나왔다. ‘현대판 면죄부’를 보는 것 같다. 플랫폼사업자들이 강조해오던 이에스지(ESG)나 사회공헌(CSR)과 같은 기업시민으로서의 윤리 의식은 찾기 어렵다.

기업의 자진 시정과 피해 구제를 전제로 법 위반 여부를 가리지 않고 사건을 신속하게 종결하는 ‘동의의결제’도 의도가 미심쩍다. 플랫폼사업자는 일단 위법성 논란이 있는 상행위로 부를 축적하고, 문제가 될 경우 신종 면죄부를 통해 거래를 시도하는 상황이다. 그렇다면 플랫폼사업자의 위법한 행위로 인한 피해자는 어디에서 손해를 보전받을 것인지 생각해보자. 입증되지 않는 손해는 보전받기 어려운데, 빅테크의 플랫폼에서 이용자가 자신의 피해를 객관적 증빙을 갖춰 입증하기란 매우 어려운 일이다. 정보 비대칭 때문이다. 더이상 정보의 비대칭에 따른 입증책임을 피해자에게 전가해서는 않된다. 동의의결제도는 미국의 제도를 받아들인 것이지만, 국제적 표준이 아니다.

플랫폼사업자들은 알고리즘이라는 이름 아래 다양한 위법성 행위를 저지르고 있다. 플랫폼사업자는 통제받지 않는 알고리즘 권력을 행사하면서 피해는 고스란히 이용자들에게 전가되고 있다. 공정거래위원회도 의지가 꺾였다. 이러한 거대한 권력을 누가 통제할 것인가? 최근 대통령 소속으로 국가인공지능(AI)위원회가 발족했다. 대통령실이 인공지능 정책의 컨트롤타워가 되었다. 최우선 과제는 인공지능의 공정성과 이를 운영하는 플랫폼사업자들의 윤리성 회복이어야 한다. 그렇지 않을 경우, 통제되지 않는 권력이 될 것이다. 국가 위에 플랫폼사업자가, 그리고 알고리즘이 있다고 생각하면 끔찍하다. 인공지능 윤리가 필요한 이유다. 애초부터 윤리적으로 설계되지 못한다면 알고리즘은 플랫폼사업자의 돈벌이 대리인에 불과하다. 알고리즘 또한 사람이 관여한 것이므로 기업과 구성원들의 윤리가 우선이어야 한다.

김윤명 디지털정책연구소장, 법학박사

▶▶권력에 타협하지 않는 언론, 한겨레 [후원하기]

▶▶한겨레 뉴스레터 모아보기

▶▶행운을 높이는 오늘의 운세, 타로, 메뉴 추천 [확인하기]