엔씨소프트 윤송이 "편견없는 AI 만들자"

윤송이 엔씨소프트 사장 [사진 제공 = 엔씨소프트]

"AI(인공지능) 기술로 발견된 편견과 부당함은 오히려 편견이 어디서 오게 되었는지 풀 수 있는 실마리가 될 수 있다"

IT업계의 '천재소녀'로 잘 알려진 윤송이 엔씨소프트 사장(CSO, 최고전략책임자)이 AI시대에 생각해봐야 할 윤리 문제에 대해 목소리를 냈다. 엔씨소프트 북미법인인 엔씨웨스트 대표인 윤 사장은 엔씨소프트에 합류한 뒤 AI에 지대한 관심을 보여온 인물이다. 지난 2011년 이후 엔씨소프트 내에 150명 규모의 AI 연구 조직을 꾸리는데 주도적인 역할을 해왔고, 현재는 에릭 슈미트 전 구글 회장, 제리 양 야후 공동 창업자, 제프 딘 구글 AI 책임자 등과 함께 지난 3월에 새로 설립된 스탠포드 HAI 연구소(Stanford Institute for Human-Centered AI)의 자문위원이기도 하다. 윤 사장은 4일 엔씨소프트 블로그에 'AI 시대의 윤리'라는 제목의 글을 올려 눈길을 끌었다.

사고 상황을 앞둔 자율주행차가 자동차 주인과 여러 보행자들 중 어느 쪽을 위해 핸들을 꺾어야 하는가를 다룬 트롤리 딜레마(Trolley Problem)로 글의 서두를 시작한 윤 사장은 "AI의 도덕적 판단을 프로그래밍 하기 위해서는 판단의 기준은 누가 정할 것인지, 어떤 기준으로 판단할 것인지에 대한 논의가 선행되어야 한다"며 "얼마나 많은 가정들이 고려되었는지, 이와 관련된 상위 인지 문제를 풀기 위해서 얼마나 많은 단계를 거쳐야 하는지 논의가 부족하다"고 주장했다.

실제로 데이터 기반으로 학습을 하는 AI는 편견이나 불공정함을 여과 없이 담을 가능성이 있다는 것이 그의 우려다. 윤 사장은 "지난 2018년 초 미국 매사추세츠공과대학(MIT) 발표 결과에 따르면 오픈 소스로 흔하게 쓰이고 있는 얼굴 인식 알고리즘은 백인 남성의 경우 98%의 정확도로 인식하는 반면, 유색 여성의 경우 70%가 채 안 되는 인식률을 보였다"며 "엔지니어들이 인종이나 성을 차별해서가 아니라 AI를 학습시키는데 사용한 데이터 자체에 백인 남성의 데이터가 더 많다 보니 그렇게 학습되었을 가능성이 높다"고 지적했다.

실제로 일상 생활에서 사용되는 경우 그 폐해는 더 커질 수 있다. 미국 법원에서 보석 결정을 위해 사용하는 AI 기반의 소프트웨어는 특정 인종과 소득 계층의 피고인에게 불리한 결과를 내는 경향이 있다는 문제를 지적받고, 데이터 기반으로 약을 만드는 정밀의료(precision medicine) 역시 병원을 더 자주 찾고, 또 이런 실험에 기꺼이 참가할 시간과 여유가 있는 사람들의 입맛에 맞는 약 위주로 개발하게 되는 식이다.

그럼에도 윤 사장은 "AI는 인간 본성을 드러내고 이에 대한 근본적인 질문을 던지는, 그리고 대답을 요구하는 계기를 제공하기도 한다"며 긍정적인 시선을 보여줬다. 그는 아마존의 인공지능 플랫폼 알렉사가 남성의 목소리를 가졌을 때와 여성 목소리를 가졌을 때 사람들이 각각을 대하는 방법이나 쓰는 단어, 목소리가 달라진다는 연구 결과를 제시하며 "AI 덕분에 인간의 존엄은 물리적인 육체가 아니라 생각과 사고에서 나온다는 결론에 도달할 수 있고, 때문에 개개인의 생김새나 신체적 조건 때문에 차별을 한다는 건 너무나 부당한 것임을 알 수 있다"고 밝혔다.

이어 윤 사장은 "기술이 가지는 파급력이 커지는 만큼, 이를 다루고 만드는데 따르는 책임도 커진다"며 "해외 유수 대학들에서는 컴퓨터 사이언스 과목에 윤리 모듈을 접목시키는 것을 의무화하는 제도의 도입을 검토하고 있다. AI기술이 사회에 올바르게 작동하기 위해서는 교육, 정책, 법률 등 다양한 부문에서 이 문제를 함께 고민해야 할 것"이라고 목소리를 높였다.

[이용익 기자]

[ⓒ 매일경제 & mk.co.kr, 무단전재 및 재배포 금지]