컨텐츠 바로가기

03.29 (금)

페이스북 AI 결함 논란…“유해영상 방지” vs. “유해영상 선별 어려워”

댓글 첫 댓글을 작성해보세요
주소복사가 완료되었습니다

‘인스타그램 청소년 유해성’ 내부 폭로 이어 또 폭로전

이번엔 페이스북 AI의 유해성 감지 및 처리 능력 문제

헤럴드경제

페이스북이 자체 개발한 AI가 유해성 콘텐츠 관리에 있어 제 역할을 하지 못하고 있음을 입증하는 문건이 17일(현지시간) 공개됐다. 사진은 페이스북에 게시된 자동차 사고 장면. [로이터]

<이미지를 클릭하시면 크게 보실 수 있습니다>


[헤럴드경제=김수한 기자] 세계 최대 소셜미디어 페이스북이 수십조원의 예산을 쏟아부어 개발한 인공지능(AI) 시스템이 무용지물이라는 내부 폭로가 나왔다.

페이스북 경영진은 최근까지 자체 개발한 AI가 유해 콘텐츠를 신속히 파악해 제거할 수 있다고 호언장담했지만, 내부 기술진과 연구팀으로부터 실상은 그렇지 않다는 증언이 나온 것이다.

앞서 페이스북은 계열사인 인스타그램이 청소년에게 유해하다는 내부 조사를 묵살하고, 아동용 인스타그램 출시를 강행했다는 내부 폭로로 내홍을 겪어왔다. 잇따른 내부 폭로로 페이스북을 둘러싼 잡음이 끊이지 않고 있다.

17일(현지시간) 월스트리트저널(WSJ)에 따르면 페이스북은 자체 개발한 AI가 증오 발언이나 과도한 폭력 장면을 담은 게시물을 걸러낼 수 있다고 주장해왔지만, 내부 문건은 그런 일이 당분간 불가능할 것이라고 전망했다.

문건에 따르면 페이스북 AI는 총격 사건의 1인칭 생중계 장면이나 인종 차별적 발언을 감지하지 못했다. 또 잔혹한 닭싸움(투계) 장면과 교통사고 영상을 구분하지 못해 내부 연구진들이 몇 주간에 걸쳐 이 사례를 조사한 사실도 드러났다.

페이스북의 AI가 증오 발언을 감지하고 삭제한 사례는 극소수에 불과했다.

2019년 중순 작성된 문건에서 내부 기술진은 “페이스북의 AI 시스템이 페이스북 규정을 어긴 증오 발언을 감지해 삭제한 사례는 전체의 2%에 불과했다”면서 “문제는 유해 콘텐츠의 절반 이상을 감지하는 AI 모델을 갖게 될 가능성이 희박하다는 점”이라고 지적했다.

또 문건에서 기술진은 “앞으로 중대한 전략상의 변화가 없다면 단기간 또는 중기간에 10% 이상으로 끌어올리기는 매우 어려울 것”이라고 전망했다.

헤럴드경제

마크 저커버그 페이스북 CEO. [AFP]

<이미지를 클릭하시면 크게 보실 수 있습니다>


올해 3월 작성된 문건에서는 페이스북 내부 다른 팀 직원이 이와 비슷한 결론을 도출했다.

이 직원은 AI가 증오 발언과 폭력 게시물을 삭제하는 비율은 각각 3~5%, 0.6%에 그쳤다고 평가했다.

이는 앞서 마크 주커버그 페이스북 최고경영자(CEO)가 호언장담했던 AI의 역할과는 거리가 먼 것이다. 페이스북은 2016년 “보안과 안전”에 130억달러(약 15조원)를 투입한다고 밝혔고, 주커버그 CEO는 2018년 AI가 향후 대다수의 유해 게시물을 걸러낼 것이라고 언급한 바 있다.

이번 내부 문건 공개 전까지 페이스북은 유해 콘텐츠는 모두 AI가 감지한다고 설명해왔다. 올초 페이스북이 밝힌 AI의 유해 콘텐츠 감지율은 98%에 달했다.

하지만 시민단체나 학계는 이 수치에 의문을 가져왔다. 자체 연구 결과나 사용자 경험에 따르면 그렇게 높은 수치가 나올 수 없다는 것이다. 시민단체 ‘컬러오브체인지’의 라샤드 로빈슨 대표는 “그들(페이스북)은 관련 작업을 공개한 적이 없다”면서 “우리는 (수치 계산 과정에서) 분자는 무엇이고 분모는 무엇이냐고 묻는다. 그 수치가 어떻게 나왔냐는 것이다”라고 했다.

헤럴드경제

[로이터]

<이미지를 클릭하시면 크게 보실 수 있습니다>


페이스북 AI가 이해할 수 없는 행태를 보여 연구진을 당혹스럽게 한 사례도 이번 문건에서 폭로됐다.

2018년 중반 페이스북의 한 엔지니어는 잔혹한 투계 영상이 확산 중이라는 점을 파악하고 AI가 해당 영상을 인식해 삭제하는 방안을 추진했다.

그러나 몇 주에 걸친 노력에도 AI는 투계장에서 싸우는 닭과 평범한 닭을 구분하지 못했다. 투계 영상을 자동차 충돌 영상으로 분류한 사례도 2건 있었다고 보고됐다.

2019년 3월 뉴질랜드에서 한 테러리스트가 51명을 총격 살해하는 상황을 생중계한 장면도 AI가 걸러내지 못했다. AI는 이 장면을 서바이벌 게임이나 세차 장면과 혼동한 것으로 보고됐다.

soohan@heraldcorp.com

Copyright ⓒ 헤럴드경제 All Rights Reserved.
기사가 속한 카테고리는 언론사가 분류합니다.
언론사는 한 기사를 두 개 이상의 카테고리로 분류할 수 있습니다.