“딥페이크가 왜 나쁜거지? 문제는 사람 아냐?”…악용 잡는 ‘착한 AI’ 개발 속도내야 [매경데스크]

해킹 잡는 화이트해커
보안위협에 역할 커져
딥페이크 더욱 고도화
악용막는 AI기술 시급

지난달 29~30일 국제해킹방어대회 ‘코드게이트’가 서울 코엑스에서 열렸다.

이 행사는 사이버 공간을 공격해 중요한 기밀, 개인정보를 훔치거나 국가 주요 시설을 마비시키는 해킹에 대응하기 위해 소위 ‘착한 해커’로 불리는 화이트 해커(White Hacker)를 발굴하자는 취지로 2008년 출범했다. 과학기술정보통신부 주최, 매일경제신문·사단법인 코드게이트보안포럼·한국인터넷진흥원 주관으로 열린 올해 행사에는 90개국 3073명이 참가해 한국·캐나다·인도 연합팀인 ‘블루워터’가 일반부 우승을 차지했다.

생성형AI로 만든 화이트해커 이미지

행사에 참여한 국내외 보안 전문가들은 사이버 위협이 점차 지능화·고도화하면서 화이트해커의 역할이 더욱 중요해지고 있다고 입을 모았다. 화이트해커가 국가 전략자산이라는 인식을 갖고 정부가 보안 인재 육성을 위해 지원을 강화해야 한다는 주문이다. 이에 강도현 과기정통부 2차관은 “양질의 화이트해커 양성은 국가안보의 선결 과제”라며 “화이트해커 양성을 비롯한 ‘사이버 10만 인재 양성 방안’을 체계적으로 이행하겠다”고 강조했다.

화이트해커는 공격자의 관점에서 사이버 공간과 정보통신 시스템의 보안 취약점을 연구하고 발견해 해킹 방어를 지원하는 정보보안 전문가라고 할 수 있다. 화이트해커의 활동 범위는 넓다. 기업 보안부서 등 민간 영역은 물론이고 국방부, 경찰, 연구기관 등 공공기관에서 활동하고 있는 이들은 네트워크·시스템 모니터링을 통해 이상 행위를 탐지하고 이에 대응하고 있다.

핵심은 해커들보다 더 뛰어난 기술을 갖추고 있어야 한다는 점이다. 해킹 기술을 악용하는 해커의 경우 한 가지 기술만으로 공격을 할 수 있지만 이를 방어하는 화이트해커는 다양한 분야를 알아야만 피해를 막을 수 있기 때문이다. 즉 해킹을 막기 위해 실력이 더 뛰어난 ‘착한 해커’ 역할이 중요해진 셈이다.

최근 딥페이크(Deep Fake) 문제가 심각해지면서 정부가 허위 영상물 소지·구입·시청 행위를 처벌하는 규정을 신설하고, 딥페이크물 제작·유통에 대한 처벌 기준을 강화하기로 했다. 딥페이크는 심층학습을 뜻하는 ‘딥러닝(Deep Learning)’과 가짜를 의미하는 ‘페이크(Fake)’의 합성어로, 인공지능(AI) 기술을 활용해 기존 인물의 얼굴이나 특정 부위를 합성한 편집물을 뜻한다.

아는 사람의 얼굴을 딥페이크 기술을 이용해 음란물에 결합시키는 범죄가 10대 청소년 사이에서 확산되는 등 문제가 심각한 만큼 정부의 이 같은 강경 방침은 오히려 늦은 감이 있을 정도로 올바른 방향이다.

다만 한 가지 점검해야 할 부분이 있다. 딥페이크에 대한 전반적인 규제 강화로 관련 기술 개발이 위축될 수 있다는 걱정의 목소리가 정보기술(IT) 업계에서 나온다. 딥페이크는 단어에 ‘가짜’라는 의미가 들어가 있어 부정적 이미지가 떠오르기 십상이지만 딥페이크 그 자체는 나쁜 기술이 아니라는 분석이다. 예를 들어 엔터테인먼트 등에서 기술 활용 가능성이 높다. 또 애국선열 사진을 구현하는 등 역사적 인물을 재현하는 사례도 등장하고 있다.

IT 업계 관계자는 “영상 콘텐츠 제작자들은 특수효과를 내는 데 딥페이크 기술을 활발히 활용하고 있고, 의료계에선 딥페이크 영상이 질병을 학습하고 진단하는 데 도움을 줄 수 있다”며 “기술 자체를 규제한다면 AI 시대에 뒤처지는 일”이라고 주장했다.

문제는 기술을 악용하는 것이지, 기술 그 자체에는 문제가 없다. 딥페이크 근절 대책도 관련 기술이 아니라 악용에 초점이 맞춰져야 하는 이유다. 해킹 위협에 화이트해커 육성으로 대응하듯, 딥페이크 악용을 잡아내는 탐지 기술 등 ‘착한 AI’ 연구개발이 시급하다.

[장용승 디지털테크부장]

[ⓒ 매일경제 & mk.co.kr, 무단 전재, 재배포 및 AI학습 이용 금지]