아동 음란물 만드는 AI에 '화들짝'…하이브 AI가 나섰다[월드콘]

'500만 집단지성' 하이브 AI, 인터넷 아동 성착취물 단속… 보험사들도 관심

[편집자주] 전세계에서 활약 중인 '월드' 클래스 유니'콘', 혹은 예비 유니콘 기업들을 뽑아 알려드리겠습니다. 세상에 이런 게 있었나 싶은 기술, 이런 생각도 가능하구나 싶은 비전과 철학을 가진 해외 스타트업들이 많습니다. 이중에서도 독자 여러분들이 듣도보도 못했을 기업들을 발굴해 격주로 소개합니다.

/사진=게티이미지뱅크

지난해 2월 생성형 인공지능(AI)을 이용해 아동 성착취물을 제작한 40대 A씨가 부산고법에서 진행된 2심 재판에서 1심과 마찬가지로 징역 2년 6개월을 선고받았다. A씨는 키워드에 맞춰 이미지를 생성해주는 AI를 이용해 아동 형상을 띤 음란 이미지 360개를 제작한 혐의를 받았다. A씨 사례는 AI를 이용해 아동 성착취물을 제작한 첫 형사 사건으로 기록됐다.

AI를 이용한 아동 음란물 제작, 유포는 불법이다. 청소년성보호법은 실제 아동·청소년은 물론 아동·청소년으로 인식될 만한 표현이 등장하는 이미지와 영상 등을 아동·청소년 성착취물로 규정한다. A씨처럼 착취물을 소지하기만 한 사람도 1년 이상 징역형에 처해진다. 착취물을 배포한 경우 3년 이상 징역형, 영리 목적으로 배포한 경우 5년 이상 징역형에 처해진다.

아동 성착취물을 포함한 불법 음란물 범죄는 적발보다 뒤처리가 더 어렵다. 한 번 온라인에 배포되면 암암리에 급속도로 확산되기 때문에 일일이 자료를 찾아내 신고, 삭제한다는 것은 사실상 불가능하다. 온라인에 흩뿌려진 착취물들은 또 다른 착취물 범죄로 이어질 공산이 크다.

케빈 궈 하이브 AI(이하 하이브) CEO는 회사 AI 기술을 아동 성착취물 감시에 활용하고 있다. AI를 이용한 영상, 이미지, 음성 식별 기술을 주력으로 하는 이 회사는 지난해부터 아동 성착취물 근절을 목표로 하는 영국 시민단체 인터넷감시재단(IWF)과 협업을 시작했다.

IWF가 현지 사법기관에 신고한 불법 음란물 웹페이지는 2023년 기준 27만5000개에 달했다. 하이브와 협업하면 더 많은 불법 사이트가 적발될 것으로 예상된다. 궈 CEO는 지난 1월 포브스 인터뷰에서 "예전에는 아동 성착취물이 흔하지 않아서 얻기 어려웠지만 생성형 AI 엔진의 등장으로 상황이 급변했다"고 말했다.

하이브의 영상 식별 기술은 인간 집단지성을 동원한 AI 훈련을 기반으로 한다. 훈련 방식은 구글의 캡차 기술과 같다. 구글은 이용자들에게 왜곡된 글자 사진을 주고 텍스트로 바꾸도록 요구한다. 이용자들의 답변은 AI의 이미지, 텍스트 인식 훈련에 쓰인다. 하이브는 약간의 현금 혹은 비트코인을 지급하는 대신 이용자들에게 캡차보다 더 복잡한 작업을 요구한다. 오디오를 텍스트로 변환하기, 이미지 분류, 동영상에서 동일한 대상물을 끝까지 추적하기 등이다. 지난달 에임리서치 보도에 따르면 인터넷 이용자 500만명이 하이브 훈련에 참여한 것으로 집계됐다.

케빈 궈 하이브 AI CEO가 지난해 10월 미국 워싱턴DC에서 열린 세마포 세계경제서밋(SWES)에서 발언 중인 모습./AFPBBNews=뉴스1

여기에 AI가 생성한 영상, 이미지에 내재되는 패턴, 신호까지 학습시켜 식별 능력을 한층 향상시켰다고 한다. 궈 CEO는 지난해 9월 CBS뉴스 인터뷰에서 "우리 모델은 인간에게 거의 보이지 않는 픽셀(화면, 이미지를 구성하는 최소 단위) 단위로 콘텐츠를 살펴 (AI 생성물이 가진) 고유의 신호를 포착한다"고 설명헀다.

하이브는 레딧, 블루스카이를 포함한 소셜네트워크서비스(SNS), 인터넷 커뮤니티에 불법 게시물 필터링 서비스를 제공한다. 넷플릭스, 월마트, 구인구직 플랫폼 글래스도어도 하이브 고객이다. 지난해 12월 MIT 테크놀로지 리뷰 보도에 따르면 미 국방부도 딥페이크를 이용한 가짜뉴스가 국가안보에 위협이 된다고 판단, 가짜 영상물 단속 기술 개발을 위해 2023년부터 하이브에 240만 달러를 투자했다. 미국 대선을 앞뒀던 지난해 조 바이든 전 대통령이 성소수자 혐오 발언을 하고, 도널드 트럼프 대통령이 수갑을 찬 채 경찰에 연행되는 모습이 담긴 가짜 영상이 나돌아 유권자들의 혼란을 가중시킨 적이 있다.

하이브 기술을 이용하면 유명인의 초상권 도용을 잡아내는 것은 물론 유명인들을 '덕질'(좋아하는 대상에 관한 것들을 열정적으로 알아내고 수집하는 행위)하는 데도 도움을 받을 수 있다. 영상 식별 기술을 이용하면 유명인이 어떤 매체, 어떤 프로그램에 출연 중인지 실시간으로 전부 파악할 수 있기 때문.

최근에는 보험사들도 AI가 생성한 가짜 이미지 식별에 관심을 보이고 있다. 자기 차량 사진을 찍은 뒤 범퍼에 흠집이 난 것처럼 사진을 합성해 보험금을 청구하는 사건이 늘면서다. 데이트앱 업체들도 AI로 가짜 프로필 사진을 만들어 범행 대상을 찾는 이용자를 차단할 목적으로 하이브 기술 구매를 검토하고 있다.

한편 궈 CEO는 스탠포드대학에서 컴퓨터과학 석사 학위를 취득한 수재다. 2013년부터 2년 간 페이팔 창업자 중 한 명인 피터 틸의 자산운용사 미스릴 캐피털에서 근무한 뒤 드미트리 카프만 하이브 공동창업자와 함께 소셜 플랫폼 '키위'를 시작했다. 이후 웹에서 온라인 폭력, 음란물, 증오 표현을 걸러낼 거대 필터 구축을 목표로 카프만 창업자와 하이브를 창업했다. 크런치베이스에 따르면 하이브는 2021년까지 5번 투자 유치에 나서 1억2000만달러(약 1735억원)의 투자금을 모았다. 기업가치는 2021년 투자 모금 당시 기준 20억달러(약 2조8926억원)로 평가됐다.

[머니투데이 스타트업 미디어 플랫폼 유니콘팩토리]

김종훈 기자 ninachum24@mt.co.kr

ⓒ 머니투데이 & mt.co.kr, 무단 전재 및 재배포 금지