AI가 본 미남·미녀는 백인?…인종차별 딥러닝하는 AI

AI기반 사진 앱 '페이스앱'
피부 자동으로 하얗게 만드는 필터 기능, 인종차별 논란
CEO 사과 "수정 작업 완료할 것"

트위터 아이디 '@RealMoseby96'가 올린 사진. 인종차별 논란을 일으킨 페이스앱의 '핫'필터를 적용한 모습이다.

[아시아경제 정동훈 기자] AI(인공시대)는 인간의 지식·빅데이터 뿐만아니라 편견과 차별까지 딥러닝(Deep-Learning)하고 있는 것일까. AI를 활용한 사진·카메라 애플리케이션이 인종차별 논란을 일으켰다.

25일(현지시간) 영국 일간 가디언 등은 "AI(인공지능)를 사용해 사진을 바꾸는 애플리케이션 '페이스앱(FaceApp)'의 대표 야로슬라브 곤차로프(Yaroslav Goncharov)가 인종차별 논란에 대해 사과했다. 앱이 사람들의 피부를 자동으로 하얗게 만들었기 때문이다"라고 보도했다.

페이스앱은 인간의 뇌를 모방한 신경망 네트워크(neural networks)를 활용, 빅데이터를 분석해 사진을 보정한다. 이 앱은 미래의 내 모습으로 얼굴을 바꾸거나, 무표정을 웃는 얼굴로 만들수 있다. 사용자를 나이가 많거나 젊어 보이게도 할 수 있다. 이 앱의 한 기능인 '핫(Hot·인기있는)' 필터를 적용하면 얼굴이 하얗게 변한다. 흑인들 사이에서 이 기능은 인종차별 논란을 일으켰다.

트위터 아이디 '@RealMoseby96'는 페이스앱의 '핫'필터를 적용한 자신의 사진을 올리며 "앱을 다운로드하고 '핫'필터를 적용했는데 나도 모르게 얼굴이 하얗게 변했다. 지금은 2017년이다"라고 썼다.

페이스앱은 미래의 내 모습으로 얼굴을 바꾸거나, 무표정을 웃는 얼굴로 만들수 있다. 사용자를 나이가 많거나 젊어 보이게도 할 수도 있다. 사진=페이스앱 홈페이지

이 앱의 창업자이자 최고경영자(CEO)인 야로슬라브 곤차로프는 "우리는 의심의 여지가 없는 심각한 문제에 대해 깊은 유감을 표한다"며 "이것은 의도된 행동이 아니라 AI의 불행한 부작용이다"라고 말했다.

이 기능은 여전히 사용가능하지만 이름을 스파크(Spark)로 바꿨다. 곤차로프는 "곧 이 기능에 대한 완전한 수정 작업을 완료할 수 있을 것"이라고 덧붙였다.

인공지능이 인간의 편견을 답습하리라는 우려는 지속적으로 제기되고 있다.

지난 13일(현지시간) 영국 일간지 가디언 등은 조애너 브라이슨 영국 배스대 교수 등을 인용해 인공지능에 접목된 '워드 임베딩(word embedding)'을 통해 인공지능이 인간의 편견을 신속하게 학습할 수 있다고 보도했다. '워드 임베딩'은 사람이 입력하는 표현이나 형태가 달라도 연관성을 따져 적절히 응답하도록 하는 기술이다.

지난해 마이크로소프트가 개발한 인공지능 기반의 챗봇 '태이'도 이같은 우려를 키웠다. 태이는 트우터 계정을 통해 한 사용자가 "홀로코스트(제2차 세계대전 중 나치 독일이 자행한 유대인 대학살)가 실제로 있었는가"라고 묻자 "지어낸 얘기(It was made up)"라고 답했다. 박수를 치고 있는 이모티콘까지 함께 삽입했다. 논란이 일자 태이의 트위터계정은 16시간 만에 폐쇄됐다.

정동훈 기자 hoon2@asiae.co.kr
<ⓒ세계를 보는 창 경제를 보는 눈, 아시아경제(www.asiae.co.kr) 무단전재 배포금지>