“AI로 가짜 교장 목소리 만들어 유포한 교사” 엉뚱한 죄목 체포 왜?

교장이 비위 사실 조사하자
악한 감정 품고 SNS에 올려

마이크 (출처=픽사베이)

인공지능(AI)을 활용해 가짜 교장 육성을 생성해 유포한 체육 교사가 전격 체포됐다. 하지만 그에게 붙은 죄목은 학교 운영 방해, 보복, 스토킹, 절도 등 혐의다. AI를 활용해 가짜 콘텐츠를 만드는 이른바 ‘딥페이크(Deep fake)’ 관련 혐의는 기소장에 없었다.

28일 미국 메릴랜드즈 볼티모어에 있는 피크스빌 고등학교의 체육 교사인 다존 다리엔(Dazhon Darien)이 볼티모어 워싱턴 국제공항에서 전격 체포됐다고 볼티모어 배너가 보도했다. 그는 자신이 몸담은 학교의 에릭 아이스워트(Eric Eiswert) 교장에 대한 음성을 AI로 제작해 소셜미디어에 유포했다. 특히 딥페이크 음성은 인종차별적이며 반유대주의적인 내용을 담고 있었다. 음성은 “배은 망덕한 흑인 아이들”로 시작해 특정 교사들을 언급하며 “이들을 해고해야한다”는 내용을 담았다.

볼티모어 카운티 경찰서장인 로버트 맥컬러프는 기자 회견을 열어 “휴스턴행 비행기에 탑승하려던 체육 교사 다리엔을 체포했다”면서 “다리엔은 총을 소지하고 있다는 이유로 제지당했고 공항 관계자들은 체포 영장이 발부된 것을 확인했다”고 말했다.

그에게 붙은 죄목은 총기 소지, 학교 운영 방해, 보복, 스토킹, 절도 등이다. 경찰은 기소문에서 해당 교사가 생성한 AI가 지역 사회에 큰 악영향을 미쳤다고 적었다. 특히 “이 사건으로 인해 아이스워트 교장은 학교에서 일시적으로 퇴출당했을 뿐 아니라 소셜 미디어에 증오로 가득 찬 메시지가 쏟아지고 학교에 수많은 전화가 걸려왔다”고 설명했다.

“관련 법 없어” 학교 운영 방해, 최장 6개월 그쳐

미국 메릴랜드즈 볼티모어에 있는 피크스빌 고등학교 (출처=볼티모어 배너)

경찰은 체육 교사가 교장에 대한 가짜 AI 음성을 만든 동기를 보복 행위로 판단했다. 교장은 체육 교사와 육상 코치 사이에 부적절한 금전적 대가가 오간 것을 확인하고 조사를 실시했는데, 체육 교사가 이에 대한 보복 차원으로 음성을 만들었다는 것이다.

체육 교사는 이 과정에서 오픈AI 도구를 활용했다. AI 음성이 유포된 직후 지역 사회는 충격에 빠졌다. 음성은 “배은망덕한 흑인 아이들”로 시작해 특정 교사들을 언급하며 “이들을 해고해야한다”는 내용을 담았다.

AI 음성 배포로 학교 교사들은 주변 곳곳에 도청 장치가 설치돼 있을 수 있다고 염려했다. 통상 AI 음성을 학습시키기 위해서는 30분 이상 깨끗한 진짜사람의 목소리가 필요하기 때문이다. 한 교사는 “AI의 발전이 매우 우려스럽다”면서 “악의적인 목적으로 이 기술을 사용하는 사람들에 대해 모두가 경계를 늦추지 않는 것이 중요하다”고 말했다.

문제는 이런 악의적 AI 음성을 유포한 이들에 대한 처벌 조항이 없다는 점이다. 학교 활동 방해죄는 형량이 최장 6개월에 불과하다. 미국 메릴랜드주는 다른 대부분의 주와 마찬가지로 딥페이크에 관한 법률이 없다. 때문에 다리엔의 혐의에도 AI 제작이 포함돼 있지 않다.

[ⓒ 매일경제 & mk.co.kr, 무단 전재, 재배포 및 AI학습 이용 금지]