‘AI가 총격과 세차도 헷갈려’ 페이스북 내부 문건 공개…위기의 페이스북

[경향신문]

페이스북이 혐오 발언과 과도한 폭력 등 유해 콘텐츠를 신속히 삭제하기 위해 도입한 인공지능(AI)이 제 기능을 하지 못한다는 내부 평가가 공개됐다. 페이스북이 잇딴 내부 폭로에 10대 가입자의 외면, 애플의 정책에 따른 광고 수익 감소 등 기업 윤리와 사업에서 모두 위기를 겪고 있다.

미국 월스트리트저널이 17일(현지시간) 입수해 보도한 2019년 페이스북 내부 문건에 따르면, 페이스북 AI는 ‘1인칭 총격’ 영상과 혐오 발언을 감지하지 못하고 잔혹한 닭싸움, 교통사고 영상도 걸러내지 못했다.

2019년 3월 뉴질랜드에서 한 테러리스트가 이슬람 사원을 공격하면서 자신의 총격 범행을 1인칭 시점으로 페이스북 생중계한 일을 계기로 AI를 활용해 1인칭 총격 영상을 걸려내려 했지만 AI는 제대로 탐지하지 못했다. 일부 사례에선 AI가 페인트볼을 쏘는 서바이벌 게임이나 세차 장면을 1인칭 총격과 혼동했다.

2019년 내부 검토에서 페이스북 규정을 위반한 혐오 발언도 전체의 약 2%만 감지해 삭제하는데 그쳤다. 페이스북의 담당 과학자는 “전략 변화가 없는 한 단기적으로 감지율을 10~20% 이상으로 높이기 어렵다”고 진단했다. 올해 3월 다른 내부 문건에서도 AI 시스템이 혐오 발언의 3~5%만 삭제한 것으로 보고됐다. 폭력과 선동 등의 모든 규정 위반 콘텐츠로 대상을 확대하면 AI가 걸러낸 게시물은 0.6%에 불과했다.

2018년 페이스북 엔지니어들은 잔혹한 자동차 충돌사고와 싸움닭 영상이 확산 중이라는 점을 파악하고 이를 삭제하려 했는데, 몇 주에 걸친 시도에도 AI는 투계장에서 싸우는 닭과 평범한 닭을 구분하지 못했다. 일부 사례에선 AI가 닭싸움 영상을 자동차 충돌 영상으로 분류하기도 했다고 엔지니어들은 보고했다.

왼쪽부터 와츠앱과 인스타그램, 페이스북 아이콘. AFP연합뉴스

전 세계 가입자가 29억명인 세계 최대 소셜미디어 페이스북은 최근 잇따른 내부 폭로와 외부 비판에 시달리고 있다. 최근에는 함께 운영하고 있는 인스타그램이 청소년 정신건강 유해 가능성을 지적하는 자체 조사 결과를 무시했다는 내부 고발자의 폭로가 나오면서 이에 대한 상원 청문회가 열리기도 했다.

필리핀 독립매체 래플러의 창립자이자 올해 노벨평화상 수상자인 마리아 레사는 지난 9일 로이터통신 인터뷰에서 “페이스북의 알고리즘은 사실보다 분노와 증오가 뒤섞인 거짓말 확산을 우선시하고 있다”며 “페이스북은 민주주의를 위협한다”고 직격했다.

사업적으로도 소셜미디어의 미래를 상징하는 10대 이용자가 감소하는 데 대한 우려가 크다. 페이스북은 미국 10대의 외면을 받은지 오래고, 인스타그램에서라도 10대를 붙잡기 위해 노력하고 있다. 뉴욕타임스는 지난 16일 페이스북 내부 문건을 인용해 인스타그램이 10대 이용자를 다른 SNS에 빼앗기지 않기 위해 2018년 6720만 달러(약 795억원)였던 마케팅 예산을 올해 3억9000만 달러(약 4616억원)로 약 5배 늘렸다고 보도했다. 하지만 금융서비스업체 파이퍼샌들러 조사 결과 미국의 10대는 소셜미디어 중 스냅챗(35%), 틱톡(30%)을 더 선호했고, 인스타그램을 선호한다는 응답은 22%에 그쳤다.

주수입원인 광고수익에도 타격이 예상된다. 애플은 최근 아이폰에 적용되는 운영체제 업데이트를 통해 사업자가 이용자의 활동기록을 활용하려면 사전 승인을 얻도록 했다. 활동기록을 이용한 ‘맞춤형 광고’를 하는 페이스북은 수익 감소가 불가피하다. 올해 상반기까진 코로나19 확산으로 온라인 광고가 늘면서 광고 매출이 크게 늘었지만 하반기 애플 정책의 영향이 본격화되면 성장폭이 둔화할 것이란 전망이 나오고 있다.

조미덥 기자 zorro@kyunghyang.com

▶ [뉴스레터] 식생활 정보, 끼니로그에서 받아보세요!
▶ [뉴스레터]교양 레터 ‘인스피아’로 영감을 구독하세요!

©경향신문(www.khan.co.kr), 무단전재 및 재배포 금지