“서구·백인 대변하는 AI 알고리즘, 문화 다양성 말살 우려”

“인공지능 알고리즘이 제공하는 의견은 ‘하나의 지배적인 렌즈’로 작용하고 있지만 실은 정치적 이슈, 사회 및 기술에 대한 관점 등에서 특정 집단에 의해 선택되고 받아들여진 것에 불과합니다.” ‘챗지피티 시대, 인간과 AI 공존의 조건’을 주제로 제2회 사람과디지털포럼에서 발표한 기조연설에서 윤송이 엔씨문화재단 이사장은 이렇게 말합니다.

서구 주류의 의견이 지배적 관점으로 받아들여지면서, 비서구·유색인종·여성 등 비주류의 의견은 배제되고 있다는 점을 강조한 것인데요. 그는 인공지능이 이처럼 특정 문화나 언어에 편향될 경우 인류가 문화적 다양성을 잃게 될 수 있다고 우려합니다.

또한 윤 이사장은 “챗지피티의 데이터는 인류 전체의 지성을 대변한다고 하지만, 사실은 인터넷에 연결되어 활발하게 데이터를 생성하는 소수 계층의 생각만을 대변한다”는 점에 주목합니다. 예컨대, 데이터의 수집과 공유가 매우 제한되어 있던 인공지능 기술 개발 초기에, 연구자들이 활용할 수 있는 대용량의 이메일 데이터는 엔론이라는 기업의 임원들이 주고받은 이메일 데이터 세트였습니다. 긴 재판의 증거로 제출되어 공공 데이터화되었기 때문이죠.

한국을 대표하는 인공지능 연구자인 윤송이 이사장이 왜 인공지능 알고리즘의 편향성과 문화다양성의 소멸을 우려하는지 들어보시죠.

제작 : 사람과디지털연구소

한귀영 사람과디지털연구소 연구위원 hgy4215@hani.co.kr

▶▶한겨레의 벗이 되어주세요 [후원하기]
▶▶한겨레 뉴스레터 모아보기▶▶[기획] 누구나 한번은 1인가구가 된다