구글, '윤리적 AI' 부서 설립자 해고…팀닛 게브루 지지한 마가렛 미첼

두 달 새 구글 AI윤리 전문가 2명 연이어 내보내

다양성부족·성차별 등 쓴소리한 직원 배제 의혹

전날 '책임감있는AI'로 개편하고 새 부서장 선임

해고 당일 직원들에겐 '다양성 강화 정책' 발표

구글의 '윤리적 인공지능(Ethical AI)' 부서 설립자인 마가렛 미첼(Margaret Mitchell) 연구원이 해고당했다. 그는 앞서 구글에서 해고된 구글 인공지능(AI) 윤리 전문가 팀닛 게브루(Timnit Gebru)의 동료다. 둘은 윤리적 AI 부서의 공동팀장이었다.

19일(미국시간) 미첼은 자신의 개인 트위터 계정을 통해 "나는 해고당했다(I'm fired)"고 밝혔다. 구체적인 사유는 언급하지 않았다. 앞서 해고된 게브루의 트위터 메시지에 따르면, 미첼은 지난 5주간 구글 업무시스템과 회사 이메일 계정에 접근을 차단당한 상태에서 개인 이메일로 해고 통보를 받았다.

구글은 앞서 미첼의 접근이 차단된 사유가 "민감한 데이터가 오가거나 신원증명관련 정책 위반 탐지시 업무 계정을 자동으로 봉쇄하는 보안시스템" 때문이라고 설명했다. 이후 '사업적으로 민감한 기밀문서'와 '다른 직원의 사적인 데이터'를 반출하는 등 미첼이 회사의 '행동강령(code of conduct)'과 '보안정책'을 다수 위반한 걸로 확인돼 그를 해고했다고 밝혔다.

지난달 구글은 미첼이 업무시스템에서 다수의 파일을 내려받아 회사 외부의 사람들과 공유한 것을 발견하고 조사 중이라고 밝힌 상태였다.
구글에 쓴소리 한 AI 연구자들 연이어 내쫓았다?

구글의 공식 입장과 별개로 게브루처럼 회사에 '불편한 지적'을 한 연구원들을 배제하기 위해 구글이 꼬투리를 잡은 게 아니냐는 의문이 증폭될 것으로 보인다. 미첼은 앞서 구글에서 AI 윤리와 다양성 문제를 제기한 게브루를 지지한 인물이다.

미첼은 이달 6일 트위터를 통해 "게브루의 해고와 그 성차별·불평등과의 관련성에 대해 우려하고 있다"고 밝히고, 시스템 접근 권한이 차단된 날 자신이 회사 언론담당 부서에 보냈던 메일 전문을 인터넷에 공개했다. 그는 메일을 통해 "현대 기술의 핵심과 다양성·포용성에 대한 근시안적 관점이라는 하나의 줄기에서 이번 문제가 나타난 것"이라고 비판했다.

미첼은 작년 12월 해고된 동료 게브루의 처우와 관련된 문제점을 찾기 위해 사내 시스템에서 자동화 스크립트를 사용했다. 이것이 구글 측에서 말하는 자동화된 보안시스템의 계정 차단 이유로 작용했을 수 있다. 자동화에 기반한 동작이든 아니든, 구글은 이렇게 회수한 미첼의 접근 권한을 되돌려주지 않은 상태에서 결국 해고를 통보했다.

구글에서 AI윤리를 다루는 연구부서의 두 팀장이 연이어 해고당한 사건으로 파장이 예상된다. 이날 온라인 IT미디어 더넥스트웹은 앞서 벌어진 게브루 해고 사건이 AI 연구계 전반에 충격을 안겼다고 지적했다. 일개 연구자의 해고가 아니라, 구글 핵심기술인 AI와 조직문화 안에 다양성 부족과 차별 소지가 있다는 목소리를 제거하기 위한 조치로 비쳤다는 이유에서다.
"거대 AI 모델 한계"…구글에 아픈 지적한 게브루

게브루는 작년 12월 해고됐다. 그는 자신이 구글의 검색엔진에 사용된 시스템을 포함한 AI 기술의 편향(bias) 위험을 지적하는 연구를 했다는 이유로 해고당했다고 주장했다. 그는 당시 구글의 다양성 정책 등을 함께 비판하는 내용의 이메일을 동료 직원들에게 보내기도 했다.

게브루는 미국 워싱턴대학교의 에밀리 벤더 교수 등 외부 연구자들과 함께 대규모 언어 AI 모델의 한계를 지적하는 연구 논문을 학회에 발표하려고 했다. 대규모 언어 AI 모델이 과도한 전력소비로 기후변화를 조장하고, 인종·성차별 우려가 크고, 인간 언어를 실질적으로는 이해하지 못하고, 그럼에도 '그럴싸한 흉내'를 내기에 악용될 소지가 크다는 게 논문의 주요 내용이었다. 세계 최대 인터넷 검색 엔진과 키워드 광고 사업을 유지하기 위해 구글이 의존하고 있는 기술에 잠재적 AI 윤리 문제를 제기한 것이다.

게브루는 이 논문을 발표하기 전에 해고됐다. 그는 작년 12월 3일 자신의 트위터 계정에 자신이 "제프 딘으로부터 해고당했다"고 썼다. 제프 딘의 직함은 구글 AI 총괄 부사장이자 구글 리서치 그룹의 '시니어 펠로'다. 그가 사업조직과 연구조직 양쪽에 발을 딛고 있는 고위 임원이라는 뜻이다. 그는 1999년 구글에 합류한 이래 현재 구글의 핵심 서비스·제품과 그 기반을 구성하는 데이터 처리 기술의 제안, 구현을 주도했다고 알려졌고 대외적으로 '전설의 엔지니어'로 불리는 명망가다.

MIT테크놀로지리뷰 보도에 따르면 딘은 게브루의 해고에 관해 공식 언급을 한 적은 없지만, 검토 과정이 담긴 사내 이메일에서 해당 논문이 언어처리 AI의 문제를 해결한 여러 연구를 무시했고, 학회 제출 하루 전에 검토를 요청하는 등 논문을 검토하기엔 너무 촉박했다고 지적했다. 하지만 이에 대해 공동저자인 벤더 교수는 장점이 이미 명확한 언어처리 AI의 잠재적 단점을 짚고자 했고, 참고 문헌이 128개 달하는데 선행연구를 무시했다는 지적은 받아들일 수 없다고 반박했다.
부서장 교체, 다양성 강화 선언…해고 직전 조치

미국 온라인 미디어 악시오스 보도에 따르면 19일(현지시간) 구글 본사는 사내 공지를 통해 게브루 해고 사건을 둘러싸고 불거진 여러 문제를 수습하기 위한 정책을 내놓았다. 내부조사 결과는 언급하지 않았지만 연구, 다양성, 직원 퇴사 관련 처리방식에 변화를 주기로 했다고 언급했다.

구글은 부사장급 이상 직원의 급여 일부를 '다양성'과 '포용성' 목표 도달 성과와 연계하기로 했다. 또 연구 발표 절차를 간소화하고, '직원 이탈 방지(employee retention)' 담당자를 늘리고, 잠재적으로 민감한 직원 퇴사를 처리할 새로운 절차를 만들기로 했다.

하루 전인 18일 구글은 앞으로 윤리적 AI 팀 담당 임원으로 마리안 크록(Marian Croak)을 선임했다. 구글은 크록이 "구글리서치 안에서 '책임감있는(responsible) AI' 분야 전문성의 새 중심"을 맡게 된다고 밝혔다. 기존 윤리적 AI 팀의 공동팀장들과 마찬가지로 크록도 제프 딘 총괄 부사장의 지시를 받는다.

요컨대 구글은 앞서 사측에 불편한 목소리를 내는 과정에서 해고된 게브루와 그를 지지한 윤리적 AI 팀의 리더를 모두 내보내고, 기존 팀의 부서장을 새 인물로 교체했다. 앞서 벌어진 상황을 정리하기 위해 택한 실질적인 방식은 부서 구조조정이었던 셈이다.

임민철 기자 imc@ajunews.com

- Copyright ⓒ [아주경제 ajunews.com] 무단전재 배포금지 -