[앵커]
AI가 만드는 진짜 같은 가짜 영상, 이른바 '딥페이크' 영상으로 전 세계가 몸살을 앓고 있습니다. 특히 '딥페이크'가 미국 대선뿐만 아니라 우리나라 총선에도 상당한 영향을 끼칠 수 있다는 목소리가 나오고 있는데요. 관련해서 김덕진 IT 커뮤니케이션 연구소 소장과 이야기 나눠보겠습니다. 안녕하세요.
[김덕진/IT 커뮤니케이션 연구소장 : 안녕하세요. 반갑습니다. 김덕진입니다.]
[앵커]
딥페이크 사실 많이 들어봤지만, 보면 딱 알 것 같은데. 간략하게 무엇인지부터 설명해 주시죠.
[김덕진/IT 커뮤니케이션 연구소장 : 다들 알고 있죠. '딥러닝'할 때 그 '딥'이고요. '페이크', 속이다. AI 기술을 갖고 사람들을 속이는 기술이라고 보시면 될 것 같습니다. 예전에 우리가 알파고 많이 얘기했었잖아요. 그때 있었던 AI 기술이 최근에 더 진화했죠. 챗GPT나 생성형 AI가 나오니까. 실은 이 딥페이크라는 건 3~4년 전부터 상당히 이슈가 됐었는데요. 그때는 실제로 어떤 영상을 만들려면, 소스라고 그러죠. 어떤 사람의 이미지나 영상이 최소 몇 시간 분량이 필요 했습니다. 그런데 최근에는 이게 몇 분 정도 분량만 있으면 누구나 손쉽게 만들 수 있는 수준까지 AI가 진화했어요. 그러다보니까 예전에는 그래도 어느 정도 전문가의 영역이었다라고 말하면, 지금은 마음만 먹으면 누구나 5분도 안 돼서 금방 이러한 이른바 속일 수 있는 딥페이크 영상을 만들 수 있다 보니까, 실제로 문제가 커지고 있다 이렇게 말씀드릴 수 있을 것 같습니다.]
[앵커]
시간도 상대적으로 간략하게 들어가니까 더 문제가 될 것 같은데, 최근에 일어났던 사례들 좀 설명해 주시죠.
[김덕진/IT 커뮤니케이션 연구소장 : 가장 최근에 있었던 사례 하나 말씀드리면, 홍콩에서 실제 한 340억 정도의 피해가 생겼었어요. 이게 어떤 거냐면 실제로 홍콩에 있는 한 은행이 외국에 있는, 자사에 있는 기업들과 화상회의를 하게 됐는데, 화상회의에 나오는 재무책임자가 계속 어디로 돈을 보내라고 하는 겁니다. 그래서 처음에는 믿지 않았다고 해요. 그런데 실제로 한 명만 나오는 게 아니라 6명 정도가 직원들의 얼굴을. 내가 원래 항상 영상에서 보던 사람들인데. 그 영상회의에 있던 모든 사람들이 알고 봤더니 이 딥페이크 기술을 악용을 한 것이죠. 그래서 실제로 돈을 노리는 조직이 실제 이 돈에 대한 구조를 안 다음에, 그 말씀드렸던 재무책임자의 얼굴을 활용을 해서 그리고 직원들의 얼굴을 활용을 해서 진짜 돈을 보내라고 영상회의를 통해서 얘기한 거고요. 6차례 넘게 활용을 해서 그걸 통해서 140억을 주게 되는 이러한 일들도 생겼습니다. 또 이제 하나 최근에 가장 이슈가 되고 있는 게 바로 정치권에서의 이슈죠. 얼굴뿐만 아니라 목소리도 너무나도 쉽게 바꾸다 보니까, 이미 미국 대선에서는 조금 활용이 되고 있는 상황인데요. 지난 1월 23일에 뉴햄프셔주의 프라이머리 선거에서 실제 조 바이든 대통령의 목소리로 갑자기 그 지역에 있던 사람들에게 전화가 간 거예요. 뭐라고 왔느냐. "도널드 트럼프 전 대통령을 뽑지 마라. 이렇게 너희가 선거를 하는 게 우리 당에게 좋지 않다. 그렇기 때문에 뽑지 말아라"는 목소리가 통화가 된 겁니다. 그러다 보니까 당연히 어떻게 보면, 어떤 입장에서는 이게 선거에 실제로 영향을 미쳤다라고 표현할 수 있는 부분이죠. 이후에 둘 다 본인이 한 것이 아니다라고 얘기를 했지만, 여전히 논란이 커지고 있다고 말씀드릴 수 있을 것 같습니다.]
[앵커]
저희가 딥페이크 영상에 대해서 이걸 어떻게 악용되는지 얘기를 하고 있는데, 이번에는 어떤 건지 좀 보면서 얘기를 해보고 싶습니다. 직접 영상을 좀 준비해 오셨잖아요.
[김덕진/IT 커뮤니케이션 연구소장 : 맞습니다. 제가 제 얼굴을 한 2분 정도 일단 저렇게 학습을 시켜요. 학습을 시킨 다음에, 실제로 제가 키보드로 뭔가를 쓰는 겁니다. 그렇게 되면 소개를 하는 방송인데요. 볼게요.]
[앵커]
중국어, 아랍어까지 나와요. 되게 여러 개의 말에 유창하시네요.
[김덕진/IT 커뮤니케이션 연구소장 : 실제로 온라인, 제 AI 아바타가 한 7개 국어 정도 하는 영상인데 제가 한 거 아니고요.]
[앵커]
근데 어떻게 인터네이션이랄까, 이런 것들이 너무 자연스럽거든요.
[김덕진/IT 커뮤니케이션 연구소장 : 이게 AI 기술의 발전인데요. 저는 한국어로 2분 정도 저 얘기가 아닌 다른 얘기로 학습을 시켰습니다. 그리고 나서 제가 한국어를 치면 한국어 혹은 영어, 일본어, 중국어까지 말씀하신 것처럼 입모양, 인터네이션까지 다 할 수 있는 게 지금의 AI 기술이다. 이렇게 말씀드릴 수 있을 것 같습니다.]
[앵커]
저희가 하나 더 준비했는데, 제 음성을 이용한 딥페이크 오디오가 제작돼 있다고 하는데 한번 들어보시죠.
[김덕진/IT 커뮤니케이션 연구소장 : 저 소개 잘해 주셔서 감사드립니다.]
[앵커]
저는 사실 그런데 제가 들었을 때는 내가 저런 말투로… 저는 조금의 디테일을 알아낼 수 있지만, 사실 시청하고 계신 분들께서는 그냥 '강지영 앵커가 말을 하네'라고 생각하실 것 같거든요.
[김덕진/IT 커뮤니케이션 연구소장 : 만약에 저런 식으로 해서 갑자기 출마를 한다, 이런 식의 음성들이 전화를 통해서 간다고 생각해보세요.]
[앵커]
너무 끔찍해요.
[김덕진/IT 커뮤니케이션 연구소장 : 저런 것도 만드는 게 어려운 일이 아닙니다. 온라인상에 예를 들면 뉴스 브리핑하시는 거 있잖아요. 그런 걸 한 1분 30초 정도의 음원만 따서 특정사이트에 넣고, 이거에 내가 원하는 키워드를 넣으면 30초에서 1분이면 이런 영상 만드는 건 일도 아니다. 이렇게 말씀드릴 수 있는 것이죠.]
[앵커]
저희가 앞서 딥페이크가 어떻게 악용되는지 말씀드렸는데. 제가 걱정되는 건, 아마 많은 분들이 걱정하실 거예요. 이걸 막기 위해서 이 딥페이크 영상을 필터링하는 그런 기술도 함께 발전되고 있는지가 사실 가장 궁금하거든요.
[김덕진/IT 커뮤니케이션 연구소장 : 결국에는 딥페이크가 어떤 식으로 만들어지는지 간단하게 설명을 드리면, 딥페이크는 결국에는 우리가 만약 위조화폐 있지 않습니까? 위조화폐를 만드는 알고리즘과 위조화폐를 찾는 알고리즘이 둘이서 싸우는 거예요. 결국에는 이 위조화폐가 아닌 수준까지 AI가 만들면 이게 영상으로 나오는 거거든요. 그 말은 찾는 방식 역시도 인공지능이 기존에 있던 패턴을 가지고 계속 학습을 하는 겁니다. 문제는 말씀드린 대로 그렇게 새로운 방식이 나오면 그걸 또 뚫는, 마치 해킹처럼 계속 이 알고리즘이 발전된다는 것이고요. 결국에는 지금 상황에서는 후행적인 단계, 그러니까 새로운 방식이 나오면 그것을 모니터링해서 고치는 쪽으로 쓸 수 있지만 완벽하게 이것을 찾는다는 것은 지금 기술적으로는 그렇게 실시간적으로 찾기란 냉정하게 말해서 쉽지 않다. 이렇게 말씀드릴 수 있습니다.]
[앵커]
사실 제가 아까 언급드렸지만, 선거에서도 이 딥페이크 기술 때문에 비상이 걸려 있습니다. 지금 보니까 선관위에서 딥페이크 전담팀이 72명. 실효성에 대해서 여쭤보고 싶어요.
[김덕진/IT 커뮤니케이션 연구소장 : 일단은 분명히 이런 가이드라인이 나온다는 게, 선거 이후에 어떤 잘잘못을 가릴 때는 분명히 어느 정도 도움이 될 것 같습니다. 그런데 반대로 선거 기간 안에 이게 바로 정말 점검이 될 것이냐라는 건 쉽지 않다라는 거죠. 왜냐하면 이미 선거는 진행되고 선거가 진행된 후에 이런 것들을 후행적으로 할 수밖에 없는 게 지금의 상황이다라고 말씀드리겠습니다.]
[앵커]
어쨌든 실시간으로 대응할 수 있는 건 없다. 어쨌든 시청자, 이 영상을 보고 있는 사람이 개인적으로 판단을
해야 된다는 얘기이실까요?
[김덕진/IT 커뮤니케이션 연구소장 : 맞습니다. 그래서 이런 걸 많이 하는 이유가, 그만큼 우리가 보이스피싱도 마찬가지잖아요. 우리가 보이스피싱의 사례나 내용을 듣다 보면 이런 거 우리가 조심해야지라고 하지 않습니까? 결국에 이런 방송을 통해서 이 AI로 만드는 것이 얼마나 쉽고 이런 것들이 너무나도 익숙하게 들어갈 수 있다는 걸 시청하시는 분들이 꼭 아셨으면 좋겠고요. 그래서 어떤 영상이나 내용이 나오더라도 바로 믿기보다는 한 번 확인해보고 이것이 과연 정말 맞는 것인가를 냉정하게 살펴보시는 것들이 지금 중요하다. 이렇게 말씀드릴 수 있겠습니다.]
[앵커]
딥페이크 영상인지 아닌지를 시청자가 어쨌든 판단하고 의심하는 그런 태도가 필요하다라는 말씀 주셨습니다. 김덕진 IT커뮤니케이션 연구소 소장과 얘기 나눠봤습니다. 고맙습니다.
강지영
JTBC의 모든 콘텐트(기사)는 저작권법의 보호를 받은바, 무단 전재, 복사, 배포 등을 금합니다.
Copyright by JTBC All Rights Reserved.
AI가 만드는 진짜 같은 가짜 영상, 이른바 '딥페이크' 영상으로 전 세계가 몸살을 앓고 있습니다. 특히 '딥페이크'가 미국 대선뿐만 아니라 우리나라 총선에도 상당한 영향을 끼칠 수 있다는 목소리가 나오고 있는데요. 관련해서 김덕진 IT 커뮤니케이션 연구소 소장과 이야기 나눠보겠습니다. 안녕하세요.
[김덕진/IT 커뮤니케이션 연구소장 : 안녕하세요. 반갑습니다. 김덕진입니다.]
[앵커]
딥페이크 사실 많이 들어봤지만, 보면 딱 알 것 같은데. 간략하게 무엇인지부터 설명해 주시죠.
[김덕진/IT 커뮤니케이션 연구소장 : 다들 알고 있죠. '딥러닝'할 때 그 '딥'이고요. '페이크', 속이다. AI 기술을 갖고 사람들을 속이는 기술이라고 보시면 될 것 같습니다. 예전에 우리가 알파고 많이 얘기했었잖아요. 그때 있었던 AI 기술이 최근에 더 진화했죠. 챗GPT나 생성형 AI가 나오니까. 실은 이 딥페이크라는 건 3~4년 전부터 상당히 이슈가 됐었는데요. 그때는 실제로 어떤 영상을 만들려면, 소스라고 그러죠. 어떤 사람의 이미지나 영상이 최소 몇 시간 분량이 필요 했습니다. 그런데 최근에는 이게 몇 분 정도 분량만 있으면 누구나 손쉽게 만들 수 있는 수준까지 AI가 진화했어요. 그러다보니까 예전에는 그래도 어느 정도 전문가의 영역이었다라고 말하면, 지금은 마음만 먹으면 누구나 5분도 안 돼서 금방 이러한 이른바 속일 수 있는 딥페이크 영상을 만들 수 있다 보니까, 실제로 문제가 커지고 있다 이렇게 말씀드릴 수 있을 것 같습니다.]
[앵커]
시간도 상대적으로 간략하게 들어가니까 더 문제가 될 것 같은데, 최근에 일어났던 사례들 좀 설명해 주시죠.
[김덕진/IT 커뮤니케이션 연구소장 : 가장 최근에 있었던 사례 하나 말씀드리면, 홍콩에서 실제 한 340억 정도의 피해가 생겼었어요. 이게 어떤 거냐면 실제로 홍콩에 있는 한 은행이 외국에 있는, 자사에 있는 기업들과 화상회의를 하게 됐는데, 화상회의에 나오는 재무책임자가 계속 어디로 돈을 보내라고 하는 겁니다. 그래서 처음에는 믿지 않았다고 해요. 그런데 실제로 한 명만 나오는 게 아니라 6명 정도가 직원들의 얼굴을. 내가 원래 항상 영상에서 보던 사람들인데. 그 영상회의에 있던 모든 사람들이 알고 봤더니 이 딥페이크 기술을 악용을 한 것이죠. 그래서 실제로 돈을 노리는 조직이 실제 이 돈에 대한 구조를 안 다음에, 그 말씀드렸던 재무책임자의 얼굴을 활용을 해서 그리고 직원들의 얼굴을 활용을 해서 진짜 돈을 보내라고 영상회의를 통해서 얘기한 거고요. 6차례 넘게 활용을 해서 그걸 통해서 140억을 주게 되는 이러한 일들도 생겼습니다. 또 이제 하나 최근에 가장 이슈가 되고 있는 게 바로 정치권에서의 이슈죠. 얼굴뿐만 아니라 목소리도 너무나도 쉽게 바꾸다 보니까, 이미 미국 대선에서는 조금 활용이 되고 있는 상황인데요. 지난 1월 23일에 뉴햄프셔주의 프라이머리 선거에서 실제 조 바이든 대통령의 목소리로 갑자기 그 지역에 있던 사람들에게 전화가 간 거예요. 뭐라고 왔느냐. "도널드 트럼프 전 대통령을 뽑지 마라. 이렇게 너희가 선거를 하는 게 우리 당에게 좋지 않다. 그렇기 때문에 뽑지 말아라"는 목소리가 통화가 된 겁니다. 그러다 보니까 당연히 어떻게 보면, 어떤 입장에서는 이게 선거에 실제로 영향을 미쳤다라고 표현할 수 있는 부분이죠. 이후에 둘 다 본인이 한 것이 아니다라고 얘기를 했지만, 여전히 논란이 커지고 있다고 말씀드릴 수 있을 것 같습니다.]
[앵커]
저희가 딥페이크 영상에 대해서 이걸 어떻게 악용되는지 얘기를 하고 있는데, 이번에는 어떤 건지 좀 보면서 얘기를 해보고 싶습니다. 직접 영상을 좀 준비해 오셨잖아요.
[김덕진/IT 커뮤니케이션 연구소장 : 맞습니다. 제가 제 얼굴을 한 2분 정도 일단 저렇게 학습을 시켜요. 학습을 시킨 다음에, 실제로 제가 키보드로 뭔가를 쓰는 겁니다. 그렇게 되면 소개를 하는 방송인데요. 볼게요.]
[앵커]
중국어, 아랍어까지 나와요. 되게 여러 개의 말에 유창하시네요.
[김덕진/IT 커뮤니케이션 연구소장 : 실제로 온라인, 제 AI 아바타가 한 7개 국어 정도 하는 영상인데 제가 한 거 아니고요.]
[앵커]
근데 어떻게 인터네이션이랄까, 이런 것들이 너무 자연스럽거든요.
[김덕진/IT 커뮤니케이션 연구소장 : 이게 AI 기술의 발전인데요. 저는 한국어로 2분 정도 저 얘기가 아닌 다른 얘기로 학습을 시켰습니다. 그리고 나서 제가 한국어를 치면 한국어 혹은 영어, 일본어, 중국어까지 말씀하신 것처럼 입모양, 인터네이션까지 다 할 수 있는 게 지금의 AI 기술이다. 이렇게 말씀드릴 수 있을 것 같습니다.]
[앵커]
저희가 하나 더 준비했는데, 제 음성을 이용한 딥페이크 오디오가 제작돼 있다고 하는데 한번 들어보시죠.
[김덕진/IT 커뮤니케이션 연구소장 : 저 소개 잘해 주셔서 감사드립니다.]
[앵커]
저는 사실 그런데 제가 들었을 때는 내가 저런 말투로… 저는 조금의 디테일을 알아낼 수 있지만, 사실 시청하고 계신 분들께서는 그냥 '강지영 앵커가 말을 하네'라고 생각하실 것 같거든요.
[김덕진/IT 커뮤니케이션 연구소장 : 만약에 저런 식으로 해서 갑자기 출마를 한다, 이런 식의 음성들이 전화를 통해서 간다고 생각해보세요.]
[앵커]
너무 끔찍해요.
[김덕진/IT 커뮤니케이션 연구소장 : 저런 것도 만드는 게 어려운 일이 아닙니다. 온라인상에 예를 들면 뉴스 브리핑하시는 거 있잖아요. 그런 걸 한 1분 30초 정도의 음원만 따서 특정사이트에 넣고, 이거에 내가 원하는 키워드를 넣으면 30초에서 1분이면 이런 영상 만드는 건 일도 아니다. 이렇게 말씀드릴 수 있는 것이죠.]
[앵커]
저희가 앞서 딥페이크가 어떻게 악용되는지 말씀드렸는데. 제가 걱정되는 건, 아마 많은 분들이 걱정하실 거예요. 이걸 막기 위해서 이 딥페이크 영상을 필터링하는 그런 기술도 함께 발전되고 있는지가 사실 가장 궁금하거든요.
[김덕진/IT 커뮤니케이션 연구소장 : 결국에는 딥페이크가 어떤 식으로 만들어지는지 간단하게 설명을 드리면, 딥페이크는 결국에는 우리가 만약 위조화폐 있지 않습니까? 위조화폐를 만드는 알고리즘과 위조화폐를 찾는 알고리즘이 둘이서 싸우는 거예요. 결국에는 이 위조화폐가 아닌 수준까지 AI가 만들면 이게 영상으로 나오는 거거든요. 그 말은 찾는 방식 역시도 인공지능이 기존에 있던 패턴을 가지고 계속 학습을 하는 겁니다. 문제는 말씀드린 대로 그렇게 새로운 방식이 나오면 그걸 또 뚫는, 마치 해킹처럼 계속 이 알고리즘이 발전된다는 것이고요. 결국에는 지금 상황에서는 후행적인 단계, 그러니까 새로운 방식이 나오면 그것을 모니터링해서 고치는 쪽으로 쓸 수 있지만 완벽하게 이것을 찾는다는 것은 지금 기술적으로는 그렇게 실시간적으로 찾기란 냉정하게 말해서 쉽지 않다. 이렇게 말씀드릴 수 있습니다.]
[앵커]
사실 제가 아까 언급드렸지만, 선거에서도 이 딥페이크 기술 때문에 비상이 걸려 있습니다. 지금 보니까 선관위에서 딥페이크 전담팀이 72명. 실효성에 대해서 여쭤보고 싶어요.
[김덕진/IT 커뮤니케이션 연구소장 : 일단은 분명히 이런 가이드라인이 나온다는 게, 선거 이후에 어떤 잘잘못을 가릴 때는 분명히 어느 정도 도움이 될 것 같습니다. 그런데 반대로 선거 기간 안에 이게 바로 정말 점검이 될 것이냐라는 건 쉽지 않다라는 거죠. 왜냐하면 이미 선거는 진행되고 선거가 진행된 후에 이런 것들을 후행적으로 할 수밖에 없는 게 지금의 상황이다라고 말씀드리겠습니다.]
[앵커]
어쨌든 실시간으로 대응할 수 있는 건 없다. 어쨌든 시청자, 이 영상을 보고 있는 사람이 개인적으로 판단을
해야 된다는 얘기이실까요?
[김덕진/IT 커뮤니케이션 연구소장 : 맞습니다. 그래서 이런 걸 많이 하는 이유가, 그만큼 우리가 보이스피싱도 마찬가지잖아요. 우리가 보이스피싱의 사례나 내용을 듣다 보면 이런 거 우리가 조심해야지라고 하지 않습니까? 결국에 이런 방송을 통해서 이 AI로 만드는 것이 얼마나 쉽고 이런 것들이 너무나도 익숙하게 들어갈 수 있다는 걸 시청하시는 분들이 꼭 아셨으면 좋겠고요. 그래서 어떤 영상이나 내용이 나오더라도 바로 믿기보다는 한 번 확인해보고 이것이 과연 정말 맞는 것인가를 냉정하게 살펴보시는 것들이 지금 중요하다. 이렇게 말씀드릴 수 있겠습니다.]
[앵커]
딥페이크 영상인지 아닌지를 시청자가 어쨌든 판단하고 의심하는 그런 태도가 필요하다라는 말씀 주셨습니다. 김덕진 IT커뮤니케이션 연구소 소장과 얘기 나눠봤습니다. 고맙습니다.
강지영
JTBC의 모든 콘텐트(기사)는 저작권법의 보호를 받은바, 무단 전재, 복사, 배포 등을 금합니다.
Copyright by JTBC All Rights Reserved.
이 기사의 카테고리는 언론사의 분류를 따릅니다.
기사가 속한 카테고리는 언론사가 분류합니다.
언론사는 한 기사를 두 개 이상의 카테고리로 분류할 수 있습니다.
언론사는 한 기사를 두 개 이상의 카테고리로 분류할 수 있습니다.
[앵커]
AI가 만드는 진짜 같은 가짜 영상, 이른바 '딥페이크' 영상으로 전 세계가 몸살을 앓고 있습니다. 특히 '딥페이크'가 미국 대선뿐만 아니라 우리나라 총선에도 상당한 영향을 끼칠 수 있다는 목소리가 나오고 있는데요. 관련해서 김덕진 IT 커뮤니케이션 연구소 소장과 이야기 나눠보겠습니다. 안녕하세요.
[김덕진/IT 커뮤니케이션 연구소장 : 안녕하세요. 반갑습니다. 김덕진입니다.]
AI가 만드는 진짜 같은 가짜 영상, 이른바 '딥페이크' 영상으로 전 세계가 몸살을 앓고 있습니다. 특히 '딥페이크'가 미국 대선뿐만 아니라 우리나라 총선에도 상당한 영향을 끼칠 수 있다는 목소리가 나오고 있는데요. 관련해서 김덕진 IT 커뮤니케이션 연구소 소장과 이야기 나눠보겠습니다. 안녕하세요.
[김덕진/IT 커뮤니케이션 연구소장 : 안녕하세요. 반갑습니다. 김덕진입니다.]
