윤송이 엔씨소프트 사장 "AI도 선입견 있어…위험성 고민해야"

윤송이 엔씨소프트 글로벌 최고전략책임자(출처 : 엔씨소프트 블로그)© 뉴스1

(서울=뉴스1) 남도영 기자 = 사회적 인간적 고뇌 없이 결과만 분석해 탄생한 인공지능(AI)은 우리 사회를 제대로 반영하고 발전시킬 수 있을까?

윤송이 엔씨소프트 글로벌 최고전략책임자(사장)는 4일 사내 블로그에 'AI 시대의 윤리'라는 글을 올려 이런 질문에 대한 견해를 밝혔다.

윤 사장은 인공지능(AI) 기술이 사회적 편견이나 불공정함을 '무한복제'해 더 빠르게 확산시킬 수 있다고 경고했다. 다만 이를 풀어낼 실마리도 AI 활용에 있는 만큼, 사회적으로 충분한 고민이 필요한 시점이라는 진단을 더했다.

윤 사장은 "AI도 선입견이 있다"며 자율주행 자동차가 겪을 '트롤리 딜레마'를 언급했다. 그는 "자율주행차가 왼쪽으로 꺾으면 탑승자가 다치게 되고 오른쪽으로 꺾으면 여러 명의 유치원생들이 다치게 되는 상황에 핸들을 어느 쪽으로 꺾도록 프로그램이 되어야 할까 하는 문제"라고 설명했다.

윤 사장은 "자율주행차가 주행 중 맞닥뜨릴 수 있는 여러 상황에서의 도덕적 판단을 프로그래밍 하기 위해서는 판단의 기준은 누가 정할 것인지 어떤 기준으로 판단할 것인지에 대한 논의가 선행돼야 한다"며 "이 논의의 배경에 얼마나 많은 가정들이 고려되었는지, 이와 관련된 상위 인지 문제를 풀기 위해서 얼마나 많은 단계를 거쳐야 하는지에 대해서는 정작 충분하게 논의되지 못하고 있다"고 지적했다.

그는 오픈소스 얼굴인식 알고리듬의 백인 남성과 유색 여성의 인식률이 다르고, 구글 검색창에 'CEO'를 검색하면 상위 50개는 모두 백인 남성의 사진이 검색되는 등의 사례를 소개하며 "기술은 편견이나 불공정함을 여과 없이 담는다"고 설명했다.

윤 사장은 특히 이런 편견이 디지털화 되어 획일적으로 많은 사람들에게 퍼질 수 있다고 경고했다. 그는 "요즘은 다들 궁금한 내용이 있으면 구글 같은 검색 엔진에서 검색하고 첫 페이지에 나오는 내용을 읽는다"며 "편견을 가진 AI가 이렇게 무한복제가 되어 모든 사람들 앞에 동시에 서게 될 경우 폐해가 더 커질 수 있다"고 지적했다.

다만 윤 사장은 이런 AI가 사회에 숨겨진 편견을 드러나게 만들고 이를 해결할 수 있는 실마리를 제공하는 기회도 될 수 있다고 설명했다. 그는 "AI와 디지털 기술의 도입이 미루어 놓았던 문제들의 신속한 해결을 촉구하고 있다"며 "우리가 만들어 내는 기술이 사회에 어떤 영향을 미치는지, 의도하지 않았던 결과를 초래할 위험은 없는지 충분한 고민이 필요한 시점"이라고 지적했다.

또 "파급력 있는 기술을 만드는 입장에서 어떤 기준으로 기술을 만들고 발전시켜 나갈 것인지 고민하는 건 당연하다"며 "기술이 사회에 올바르게 작동하기 위해선 교육, 정책, 법률 등 다양한 부문에서 이 문제를 함께 고민해야 할 것"이라고 덧붙였다.

엔씨 창업자인 김택진 대표의 부인인 윤 사장은 현재 미국 스탠포드대학 '인간 중심 AI 연구소'(Human-Centered AI Institute, HAI)의 자문위원을 맡고 있다. 인간 중심 AI연구소는 AI와 데이터가 더 광범위하게 쓰이는 사회에서 발생할 수 있는 문제들을 논의하는 곳으로, 에릭 슈미트 전 구글 회장, 제리 양 야후 공동 창업자, 제프 딘 구글 AI 책임자 등이 자문위원으로 활동하고 있다.
hyun@news1.kr

[© 뉴스1코리아(news1.kr), 무단 전재 및 재배포 금지]