컨텐츠 바로가기

03.29 (금)

닭싸움과 교통사고 구분 못 한 페이스북 AI…유해 영상 못 걸러

댓글 첫 댓글을 작성해보세요
주소복사가 완료되었습니다
SBS

<이미지를 클릭하시면 크게 보실 수 있습니다>


세계 최대 소셜미디어 페이스북을 둘러싼 잡음이 끊이지 않습니다.

미 유력 언론들이 연일 페이스북과 자회사 인스타그램의 어두운 이면을 드러낸 내부 문건들을 입수해 비판 보도를 이어가고 있습니다.

월스트리트저널(WSJ)은 17일(현지시간) 페이스북이 증오 발언(헤이트 스피치)과 과도한 폭력을 포함한 콘텐츠를 신속히 삭제하기 위해 도입한 인공지능(AI) 시스템이 부적절한 게시물을 제대로 걸러내지 못했다고 보도했습니다.

WSJ이 입수한 내부 문건에는 페이스북 AI가 '1인칭 총격' 영상과 헤이트 스피치를 충분히 감시하지 못한 것은 물론 닭싸움(투계)과 교통사고 영상조차 구분하지 못했다는 내용도 담겼습니다.

지난 2019년 작성된 한 내부 문건에 따르면 2018년 중반 페이스북의 한 엔지니어는 잔혹한 자동차 충돌사고와 투계 영상이 확산 중이라는 점을 파악하고 동료들과 함께 AI가 해당 영상을 인식해 이를 삭제하는 방안을 추진했습니다.

그러나 몇 주에 걸친 노력에도 AI는 투계장에서 싸우는 닭과 평범한 닭을 구분하지 못했다고 이 엔지니어는 밝혔습니다.

엔지니어들은 '딥비전'이라는 이름의 정교한 머신러닝 프로그램을 활용해 AI에 심하게 다친 닭이 나오는 영상을 걸러내고 가벼운 상처를 입은 닭이 나오는 영상은 무시하도록 학습시켰으나, 큰 효과가 없었다는 것입니다.

심지어 2건의 사례에서 AI가 "분명히 투계 영상들인데 자동차 충돌 영상으로 분류했다"고 엔지니어들은 보고했습니다.

이들은 또 지난 2019년 3월 뉴질랜드 크라이스트처치에서 한 테러리스트가 이슬람 사원 2곳에서 51명을 총격 살해하면서 자신의 범행을 '1인칭 시점'에서 페이스북으로 생중계한 것을 계기로 AI를 활용한 1인칭 총격 영상을 걸러내려 시도했으나, AI는 이런 영상을 제대로 탐지하지 못한 것으로 나타났습니다.

일부 사례에서는 AI가 페인트볼을 쏘는 서바이벌 게임이나 세차 장면을 1인칭 총격과 혼동한 것으로 보고됐습니다.

증오 발언이 담긴 콘텐츠에 대해서도 결과는 마찬가지였습니다.

한 수석 엔지니어는 2019년 중반에 작성한 내부 보고에서 페이스북의 자동화 시스템이 규정을 위반한 헤이트 스피치 조회 건수의 단 2%에 해당하는 게시물을 삭제하는 데 그쳤다고 밝혔습니다.

올해 3월 다른 내부 문건에서도 AI 시스템이 헤이트 스피치 조회 건수의 3∼5%에 해당하는 게시물을 삭제한 것으로 보고됐습니다.

폭력과 선동 등의 모든 규정 위반 콘텐츠로 대상을 확대하면 AI가 걸러낸 게시물은 0.6%에 불과했습니다.

페이스북이 사진·동영상 공유 소셜미디어 인스타그램의 10대 청소년 사용자들을 유지·확대하는 데 사활을 걸고 있다는 뉴욕타임스(NYT) 보도도 나왔습니다.

이는 페이스북이 인스타그램 앱의 청소년 정신건강 유해 가능성을 지적하는 자체 조사 결과를 무시했다는 최근 내부 고발자의 폭로와 이에 관한 상원 청문회까지 열린 이후에 나온 것이어서 더욱 우려를 키웁니다.

NYT에 따르면 인스타그램은 지난 2018년 한 마케팅 프레젠테이션에서 10대 이용자들의 유출을 회사의 "실존적 위협"으로 규정했습니다.

페이스북은 이후 10대 이용자를 경쟁 소셜미디어에 뺏기지 않기 위해 인스타그램에 거액을 베팅하기 시작했습니다.

2018년 6천720만 달러(약 795억 원)였던 전 세계 마케팅 예산은 올해 3억9천만 달러(약 4천616억 원)로 5배 이상 급증했고, 그 대부분은 10대 청소년을 타깃으로 한 디지털 광고 등으로 집행됐습니다.

이러한 마케팅은 중학생에서 고교생 저학년에 이르는 만 13∼15세 이용자를 유지하고 새로 끌어들이는 데 집중됐다고 신문은 보도했습니다.

2021년 마케팅 계획을 위해 지난해 10월 제출된 회사 경영전략 내부 문건에는 "미국의 10대들 사이에서 발판을 잃는다면, 우리는 파이프라인(유입로)을 잃어버리는 것"이라는 우려도 담겼습니다.

금융서비스업체 파이퍼샌들러 조사 결과 미국의 10대 중 35%는 스냅챗을, 30%는 틱톡을 각각 가장 선호하는 소셜미디어로 꼽았고 인스타그램이라고 답한 비율은 22%에 그쳤습니다.

앞서 페이스북은 10대 공략을 위해 스냅챗을 인수하려다 실패로 돌아간 뒤 스냅챗의 핵심 기능을 베낀 '스토리' 기능을 인스타그램에 추가했으나, 13∼15세 이용자층에서는 별로 호응이 없었다고 NYT는 전했습니다.

(사진=게티이미지코리아)
유영규 기자(sbsnewmedia@sbs.co.kr)

▶ 네이버에서 SBS뉴스를 구독해주세요!
▶ 가장 확실한 SBS 제보 [클릭!]
* 제보하기: sbs8news@sbs.co.kr / 02-2113-6000 / 카카오톡 @SBS제보

※ ⓒ SBS & SBS Digital News Lab. : 무단복제 및 재배포 금지
기사가 속한 카테고리는 언론사가 분류합니다.
언론사는 한 기사를 두 개 이상의 카테고리로 분류할 수 있습니다.