그야말로 AI의 전성시대를 맞이한 지금, 마냥 AI를 기술로서 받아들이자니 불편한 구석이 하나 있습니다. 바로 '가짜뉴스'입니다. 먼저 가짜뉴스와 관련한 최신 사례 두 가지를 들어보겠습니다.
━
지난 9월 30일에 있었던 슬로바키아 총선에선, 친러시아 성향의 좌파 야당이 승리했습니다. 그런데 선거 이틀 전, 여론조사에서 2위를 달리던 친미국 성향의 진보적슬로바키아당이 구설수에 오릅니다. 당 대표가 한 기자와 얘기를 나누면서 일부 표를 사서 선거를 조작하는 방안을 논의하는 음성 파일이 페이스북에 올라왔기 때문입니다. 당사자들이 즉각 조작된 것이라 반발했지만, 해당 음성 파일은 급속도로 퍼져나가며 유권자들의 공분을 샀습니다. Wired 등 외신들에 따르면 당시 '가짜 음성'에 대한 대처법이 없었던 페이스북 자체의 문제에 더해 선거 직전 적극적인 조치를 하기 어려운 현지 선거법 문제로 인해 '가짜 음성'임이 판정됐음에도 확산을 막기는커녕 삭제하기도 어려웠다고 합니다.
이 일 때문이라고만은 할 수 없지만, 결국 선거에서 졌죠. 슬로바키아 총선은 러시아-우크라이나 전쟁에 대한 범유럽 국가들의 대러시아 전선 구축의 향방을 가늠해보는 자리였기 때문에 변방의 작은 나라에서 벌어진 일이라고 치부하기엔 쏠린 세계의 관심도가 컸던 이벤트였습니다.
━
브라질의 유명 인플루언서 '인데르송 누니스'입니다. 유튜브와 인스타그램 등 구독자와 팔로워 수를 합하면 1억명이 넘는 라틴아메리카 전체에서 '핫'한 인물입니다. 그런데 이달 중순쯤 '엑스(전 트위터)'에선 이 슈퍼스타의 여자친구라며 한 여성을 콕 찍은 게시글들이 올라오기 시작합니다. 나눈 메신저 대화 캡처와 찍은 사진이 온라인상을 돌아다니게 됐습니다.
두 사람 모두 '사실무근'이라며 맞섰고 브라질 현지매체들도 별다른 반응을 보이지 않았지만, 가십을 퍼 나르는 '사이버 레커'들이 합류하면서 삽시간에 퍼진 겁니다. 여성은 온라인상에서 처음 보는 사람들로부터 공격에 시달리다 결국 지난 22일 스스로 목숨을 끊었다고 현지 언론들은 전했습니다.
딥 페이크 기술이 아무나 따라 하기는 어려웠다면, AI를 활용한 이미지 생성은 이제 평범한 사람 누구든지 접근할 수 있게 됐습니다. 기술이 발전하면서 도구 사용도 전보다 쉬워지고 정교해지고 있는 겁니다. 특히 내년엔 미국 대선 등 전 세계적으로 대형 선거 이벤트가 많기 때문에 AI를 힘입은 가짜뉴스가 그 어느 때보다 판을 칠 것이란 전망이 유력합니다. 내년에 총선을 앞둔 만큼 우리나라도 예외일 수는 없습니다. 기술의 발전에도 불구하고 상응할 만한 안전장치가 충분치 않다는 점이 우려를 가중합니다.
AP에 따르면 미 의회와 선관위에서 AI 생성 기술을 규제하기 위한 조치를 모색하고 있지만, 규칙이나 법안이 확정된 것은 없다고 합니다. 유일한 규제가 AI 딥 페이크를 제재하는 것인데, 각 주에 맡겨진 상황이라 제각각이라 하고요. 지속적인 모니터링과 자정작용을 해야 할 소셜미디어 업체들의 정책도 오히려 후퇴한 상황이라고 합니다. X를 비롯한 메타와 유튜브 등의 콘텐츠 감시 업무 담당자 수는 전보다 오히려 적어졌기 때문이라네요. 실제로 단순히 어떤 결과에 그치는 것이 아니라 가짜뉴스가 선동을 부추겨 폭력적인 행동으로 이어질 가능성도 배제할 수 없습니다. 도널드 트럼프 전 대통령이 지난 대선에서 패배를 인정하지 않고 선거가 조작됐다는 주장을 펼치다 의회 난입 사태를 촉발한 게 대표적인 사례로 꼽힙니다.
━
내가 선거조작범? 선거 이틀 앞두고 퍼진 '내 목소리'
━ |
친미국 자유주의 성향 '진보적슬로바키아당'의 미칼 시멕카 당대표 |
<이미지를 클릭하시면 크게 보실 수 있습니다> |
이 일 때문이라고만은 할 수 없지만, 결국 선거에서 졌죠. 슬로바키아 총선은 러시아-우크라이나 전쟁에 대한 범유럽 국가들의 대러시아 전선 구축의 향방을 가늠해보는 자리였기 때문에 변방의 작은 나라에서 벌어진 일이라고 치부하기엔 쏠린 세계의 관심도가 컸던 이벤트였습니다.
━
내가 쟤랑 사귄다고? 메시지 내용도 만들어내는 AI
━ |
브라질의 유명 인플루언서 '인데르송 누니스' 〈유튜브 화면 캡처〉 |
<이미지를 클릭하시면 크게 보실 수 있습니다> |
브라질의 유명 인플루언서 '인데르송 누니스'입니다. 유튜브와 인스타그램 등 구독자와 팔로워 수를 합하면 1억명이 넘는 라틴아메리카 전체에서 '핫'한 인물입니다. 그런데 이달 중순쯤 '엑스(전 트위터)'에선 이 슈퍼스타의 여자친구라며 한 여성을 콕 찍은 게시글들이 올라오기 시작합니다. 나눈 메신저 대화 캡처와 찍은 사진이 온라인상을 돌아다니게 됐습니다.
 |
브라질 인플루언서와 열애설을 전한 가짜뉴스들. 〈소셜미디어 화면 캡처〉 |
<이미지를 클릭하시면 크게 보실 수 있습니다> |
 |
브라질 인플루언서와 열애설을 전한 가짜뉴스들. 〈소셜미디어 화면 캡처〉 |
<이미지를 클릭하시면 크게 보실 수 있습니다> |
 |
가짜로 생성된 메시지들 |
<이미지를 클릭하시면 크게 보실 수 있습니다> |
두 사람 모두 '사실무근'이라며 맞섰고 브라질 현지매체들도 별다른 반응을 보이지 않았지만, 가십을 퍼 나르는 '사이버 레커'들이 합류하면서 삽시간에 퍼진 겁니다. 여성은 온라인상에서 처음 보는 사람들로부터 공격에 시달리다 결국 지난 22일 스스로 목숨을 끊었다고 현지 언론들은 전했습니다.
━
기술 발전 속도 따라가기 버거운 규제와 대응책
━딥 페이크 기술이 아무나 따라 하기는 어려웠다면, AI를 활용한 이미지 생성은 이제 평범한 사람 누구든지 접근할 수 있게 됐습니다. 기술이 발전하면서 도구 사용도 전보다 쉬워지고 정교해지고 있는 겁니다. 특히 내년엔 미국 대선 등 전 세계적으로 대형 선거 이벤트가 많기 때문에 AI를 힘입은 가짜뉴스가 그 어느 때보다 판을 칠 것이란 전망이 유력합니다. 내년에 총선을 앞둔 만큼 우리나라도 예외일 수는 없습니다. 기술의 발전에도 불구하고 상응할 만한 안전장치가 충분치 않다는 점이 우려를 가중합니다.
AP에 따르면 미 의회와 선관위에서 AI 생성 기술을 규제하기 위한 조치를 모색하고 있지만, 규칙이나 법안이 확정된 것은 없다고 합니다. 유일한 규제가 AI 딥 페이크를 제재하는 것인데, 각 주에 맡겨진 상황이라 제각각이라 하고요. 지속적인 모니터링과 자정작용을 해야 할 소셜미디어 업체들의 정책도 오히려 후퇴한 상황이라고 합니다. X를 비롯한 메타와 유튜브 등의 콘텐츠 감시 업무 담당자 수는 전보다 오히려 적어졌기 때문이라네요. 실제로 단순히 어떤 결과에 그치는 것이 아니라 가짜뉴스가 선동을 부추겨 폭력적인 행동으로 이어질 가능성도 배제할 수 없습니다. 도널드 트럼프 전 대통령이 지난 대선에서 패배를 인정하지 않고 선거가 조작됐다는 주장을 펼치다 의회 난입 사태를 촉발한 게 대표적인 사례로 꼽힙니다.
정원석 기자
JTBC의 모든 콘텐트(기사)는 저작권법의 보호를 받은바, 무단 전재, 복사, 배포 등을 금합니다.
Copyright by JTBC All Rights Reserved.
이 기사의 카테고리는 언론사의 분류를 따릅니다.
기사가 속한 카테고리는 언론사가 분류합니다.
언론사는 한 기사를 두 개 이상의 카테고리로 분류할 수 있습니다.
언론사는 한 기사를 두 개 이상의 카테고리로 분류할 수 있습니다.
