10대도 손쉽게 딥페이크 제작 '뚝딱'…관리 사각지대

10대도 손쉽게 딥페이크 제작 '뚝딱'…관리 사각지대

[앵커]

'딥페이크'를 이용한 성범죄가 잇따라 발생하며 논란이 되고 있습니다.

특히 IT 기술에 익숙한 10대 청소년들을 중심으로 범죄에 악용되고 있어 우려가 큰데요.

얼마나 쉽게 합성물을 만들 수 있는지, 문승욱 기자가 보여드리겠습니다.

[기자]

1천 명이 넘게 참여하고 있는 한 텔레그램 채널입니다.

최근 논란이 불거진 이른바 '지인 능욕방'입니다.

지인의 이름과 사진 등을 올려 딥페이크로 음란 합성물을 제작해 채팅방에 공유하는 식입니다.

프로그램을 설치하기만 하면 쉽게 합성물을 만들 수 있다 보니 딥페이크가 범죄에 악용되고 있는 겁니다.

특히 상대적으로 SNS와 모바일앱 등 IT 기술에 익숙한 10대들 사이에서 딥페이크 범죄가 확산하고 있는 걸로 나타났습니다.

최근 4년간 검거된 딥페이크 관련 범죄 피의자는 461명, 이 가운데 10대의 비율이 70%가 넘었습니다.

얼마나 쉬운지 직접 만들어봤습니다.

프로그램을 설치하고 사진을 업로드합니다.

등록된 사진을 클릭하면 얼굴이 자동으로 인식됩니다.

마지막으로 합성할 사진을 고르기만 하면 순식간에 얼굴이 바뀝니다.

딥페이크로 제 얼굴을 합성한 사진인데요. 프로그램 설치부터 합성까지 고작 5분밖에 걸리지 않았습니다.

딥페이크 범죄가 익명성과 보안성이 강한 텔레그램에서 계속 발생하고 있는 만큼 플랫폼 규제가 강화돼야 한다는 지적이 나옵니다.

<장윤미 / 변호사> "플랫폼이 범죄 활용 수단이 되지 않도록 규율하는 기준 같은 게 반드시 만들어져야 할 거 같아요."

전문가들은 인공지능으로 만든 콘텐츠에 워터마크를 의무화하는 등 최소한의 제도적 장치가 필요하다고 조언합니다.

연합뉴스TV 문승욱입니다. (winnerwook@yna.co.kr)

[영상취재 기자 송철홍]

#텔레그램 #딥페이크 #범죄

연합뉴스TV 기사문의 및 제보 : 카톡/라인 jebo23

(끝)

[저작권자(c) 연합뉴스TV 무단전재 및 재배포 금지]

10대도 손쉽게 딥페이크 제작 '뚝딱'…관리 사각지대

[앵커]

'딥페이크'를 이용한 성범죄가 잇따라 발생하며 논란이 되고 있습니다.

특히 IT 기술에 익숙한 10대 청소년들을 중심으로 범죄에 악용되고 있어 우려가 큰데요.

얼마나 쉽게 합성물을 만들 수 있는지, 문승욱 기자가 보여드리겠습니다.

[기자]

1천 명이 넘게 참여하고 있는 한 텔레그램 채널입니다.