모질라, 유튜브의 잘못된 영상추천사례 공개...베일에 쌓인 추천 AI 공개비판

모질라 재단이 유튜브의 부적절한 추천 알고리즘을 비판하는 ‘유튜브 유감’ 사이트를 개설하고, 피해사례 28건을 공개했다. 출처 | 모질라

[스포츠서울 이상훈 기자] 동영상 스트리밍 플랫폼 유튜브의 독주가 이어지는 가운데 비영리 재단인 모질라 재단(Mozilla Foundation)이 유튜브 추천 영상 알고리즘의 정보공개를 요구하며 제동을 걸었다.

파이어폭스(Firefox) 브라우저로 잘 알려진 모질라는 지난 9월10일부터 2주에 걸쳐 유튜브가 추천한 영상을 통해 기이하고 위험한 콘텐츠에 노출된 사연을 제보받았다. 애슐리 보이드 모질라 부사장은 이메일에 “구글이 소유한 비디오 사이트(유튜브)의 추천 엔진이 사람들을 기괴하고 위험한 길로 이끌었다”고 설명했다.

모질라는 사람들에게 유튜브로 인해 겪은 불편한 경험 ‘유튜브 유감(#YouTubeRegrets)’ 사례를 요청했다. 이후 유튜브 사용자들은 ‘해롭지 않은’ 동영상 시청 후 인종차별, 각종 음모론, 폭력적인 영상을 추천받은 사연 수백여 건을 모질라 측에 전달했다.

한 예로 ‘바이킹(Vikings)’에 관한 비디오를 본 사용자는 추천 영상에서 백인우월주의자 영상을 추천받았고, 자신감 회복을 위해 여장을 하는 ‘드래그 퀸(Drag Queen)’ 영상을 본 이는 동성애 혐오 내용을 담은 영상을 추천받았다. 또 ‘실패(Fail)’ 관련 비디오를 검색한 한 사용자는 잔혹한 사고 영상을 추천받기도 했다.

이런 잘못된 유튜브 추천 알고리즘으로 불쾌감을 느낀 사람들은 모질라에 5개국어로 된 수백여 건의 사연을 보냈다. 다만 모질라 측은 해당 사연들의 사실여부를 확인할 수 없었기에 ‘유튜브 유감’에 노출되는 사례 28개를 심사숙고해서 선정했다고 전했다.

모질라가 이런 캠페인을 벌이는 이유로 “AI(인공지능) 세계에서 소비자를 위한 기술이 사람들에게 해롭지 않고 유용하도록 하기 위함”이라고 설명했다. 모질라는 또 “AI가 사람들에게 해를 끼칠 수 있는 상황을 고려해야 한다”고 덧붙였다.

모질라가 유튜브의 추천 AI 알고리즘의 문제를 지적하고 나서자 유튜브 측은 “해당 연구에 대해서는 환영하지만, 모질라가 공개한 사연 내용 중 동영상이나 스크린샷 등 데이터를 확인하지 못해 모질라의 주장을 검증할 수 없었다”고 입장을 밝혔다.

유튜브는 “올해 초부터 영상 추천 관련해서 30회 이상 변화를 줬고, 결과적으로 미국 내에서 잘못 추천됐거나 (유해한 콘텐츠의) 경계에 있는 콘텐츠의 시청시간을 50% 줄였다”고 설명했다. 이와 함께 유튜브는 좀 더 잘 알려진, 신뢰할 수 있는 콘텐츠들이 추천영상에 보다 눈에 잘 띄도록 시스템을 구축했다고 밝혔다.

그러자 모질라는 이런 유튜브의 주장을 다시 반박했다. “모질라가 ‘유튜브 유감’을 통해 소개한 일화는 엄밀히 말하면 구체적인 데이터가 아니지만 큰 문제점을 부각시킨다”면서 “유튜브는 이 문제를 연구하고 해결하는데 도움을 줄 수 있는 독립된 연구원들과 데이터를 공유하지 않는다. 실제 유튜브는 유해하거나 아슬아슬한 콘텐츠를 50% 줄였다는 자체 주장을 뒷받침할 자료를 제공하지 않고 있다”고 강조했다.
party@sportsseoul.com

[기사제보 news@sportsseoul.com]
Copyright ⓒ 스포츠서울&sportsseoul.com