"30초면 복제한다는데…'딥페이크' 공포, AI로 해결" [AWS 리인벤트 2024]

원본과 40% 차이 나면 'AI 생성물'…경찰도 도입한 AI 탐지 기술 눈길

[아이뉴스24 윤소진 기자] "30초 분량의 영상과 음성만 있으면 누구든 완벽하게 복제할 수 있습니다. 이제는 눈과 귀로는 진짜와 가짜를 구분하기 어려운 시대가 왔죠. 보이스피싱이나 가짜 영상으로 악용될 수 있는 만큼 이를 판별할 객관적 근거가 필요합니다."

2일(현지시간) 미국 라스베이거스에서 열린 'AWS 리인벤트 2024' 엑스포에서 만난 마이클 정 딥브레인AI 최고재무책임자(CFO)는 AI로 생성한 콘텐츠의 진위 여부를 가려내는 '딥페이크 디텍션' 기술을 소개하며 이같이 말했다.

마이클 정 딥브레인AI CFO가 AWS 리인벤트 2024 엑스포 한국관에서 자사 AI 설루션을 소개하고 있다. [사진=윤소진 기자]

딥페이크 디텍션은 AI로 제작된 영상, 이미지, 음성 등이 실제 콘텐츠인지 AI 생성물인지를 판별하는 기술이다. 원본과 다른 픽셀 비율이 40%를 넘어가는 경우 AI생성이 의심되는 콘텐츠로 식별한다. 정 CFO는 "자체 보유한 원본 영상과 AI 생성 데이터셋을 활용한 머신러닝을 통해 정확도를 지속적으로 높여가고 있다"고 설명했다.

이 기술은 이미 국내 경찰청에 도입됐으며, 최근에는 두바이 경찰과도 도입을 논의 중이다. 정 CFO는 "생성형 AI로 인한 범죄 위험이 증가하는 상황에서, 우리 기술이 디지털 신뢰성을 확보하는 데 기여할 것"이라고 말했다.

앞서 딥브레인AI는 4년 전 MBN AI 앵커 '김주아'를 선보이며 세계 최초로 AI 앵커 상용화에 성공했다. 회사의 주력 제품인 'AI 스튜디오스'는 30초 분량의 영상만으로도 AI 아바타를 생성할 수 있으며, 텍스트 입력만으로 영상 제작이 가능하다. 현재 전 세계 1000개 이상의 기업이 이 서비스를 활용 중이다. 대표적인 활용 사례로는 신한은행의 AI 은행원이 있다.

특히 80개 국어를 지원하는 다국어 서비스는 글로벌 시장에서 상당한 경쟁력을 의미한다. 미국의 경우 스페인어와 중국어 등 다양한 언어 지원이 필요한 상황에서, 적은 비용으로 효율적인 서비스 제공이 가능하다는 장점이 있다. 현장에서 정 CFO가 자신의 목소리로 다양한 국가 언어를 구사하는 영상을 시연하기도 했다.

정 CFO는 "현재 전 세계 200개 이상의 기업이 우리 서비스를 활용하고 있다"며 "현재는 실제 인물과 96.5%의 유사도를 구현할 수 있으며, 전신과 자연스러운 제스처 구현이 가능한 유일한 기업"이라고 강조했다.

딥브레인AI는 정보통신산업진흥원(NIPA)이 주관하는 'K-SaaS 기업 공동관'을 통해 이번 행사에 참가했다. NIPA는 한국 서비스형소프트웨어(SaaS) 기업의 글로벌 진출을 지원하기 위해 AWS코리아와 협력해 8개 기업을 선정, 이 중 6개 기업이 전시에 참여했다. K-SaaS 기업 공동관은 참가 기업에게 전시 공간을 제공하고, 바이어 미팅, 네트워킹 및 쇼케이스 등 현지 비즈니스 프로그램을 종합적으로 지원한다.

이호영 NIPA 클라우드산업팀장은 "현재까지 약 500만 달러 규모의 수출 성과가 예상된다"며 "향후 세일즈포스 등 다른 글로벌 SaaS 행사로도 지원을 확대할 계획"이라고 밝혔다.

'K-SaaS 기업 공동관'에 참여한 기업은 딥브레인AI를 비롯해 언어 AI 기업 플리토 △생성형 AI 인프라 기업 프렌들리AI, △정보보안 및 콘텐츠 보호 전문 기업 마크애니 △이커머스 생성형AI 설루션 기업 OMNIOUS.AI △데이터 트래픽 관리 설루션 기업 STC랩 등이다.

NIPA와 리인벤트 엑스포 참가 기업 관계자들이 기념 촬영을 하고 있다. [사진=윤소진 기자]

/미국 라스베이거스=윤소진 기자(sojin@inews24.com)

[ⓒ 아이뉴스24 무단전재 및 재배포 금지]