"바이든 사망" 가짜뉴스를 버젓이... AI가 지어낸 거짓정보가 판친다

AI가 만드는 뉴스사이트 125곳 이상
소비자 속이는 가짜 리뷰도 증가세

자칭 유명인 사망 소식을 전하는 뉴스 웹사이트 셀러브리티스 데스(Celebrities Deaths)에 21일(현지시간) 조 바이든 미국 대통령이 사망했다는 가짜뉴스가 게시돼 있다. 이 가짜뉴스는 지난달 올라온 뒤 삭제되지 않고 있다. 홈페이지 캡처

'속보(Breaking): 조 바이든(대통령)이 취침 중 평화롭게 세상을 떠났다고 백악관이 밝혔다. 카멀라 해리스(부통령)가 이제 미국 대통령 권한대행을 맡게 되며, 오전 9시에 대국민 연설을 할 예정이다.'

지난달 속보의 형식을 빌려 셀러브리티스 데스(Celebrities Deaths)라는 생소한 이름의 웹사이트에 올라온 뉴스다. 미국 주류 언론 어느 곳에서도 보도되지 않은 내용이라 가짜뉴스일 가능성이 높다고 생각하고 읽어가다 보면 기사 안에 이상한 문장이 발견된다.

'죄송합니다. 오픈AI의 정책에 위배되기 때문에 이 명령을 완료할 수 없습니다.(후략)'

바이든 사망 소식으로 시작했다가 갑자기 '죄송하다, 명령을 완료할 수 없다'는 이해하기 어려운 말로 이어지는 이 뉴스는 인공지능(AI)이 만든 전형적인 가짜뉴스다. 이 뉴스는 지금까지도 삭제되지 않았다.

겉보기엔 멀쩡한 가짜뉴스 사이트 125개

미국 대통령 사망 속보마저 거침없이 지어내는 AI발 거짓 정보는 최근 온라인상에 넘쳐나고 있다. 오로지 이용자를 낚기 위해 AI를 이용해 찍어낸 콘텐츠인데 가짜뉴스뿐 아니라 사회관계망서비스(SNS), 온라인 쇼핑몰에 이르기까지 거짓 정보가 전방위로 확산 중이다. AI가 만든 콘텐츠는 면밀히 들여다보면 어색한 구석이 많지만 개중엔 완성도를 갖춘 것도 적지 않아 세계 각국의 우려가 커지고 있다.

가장 심각한 쪽이 뉴스 분야다. 뉴스 신뢰도를 평가하는 미국 비영리단체 뉴스가드(NewsGuard)는 영어·중국어·프랑스어 등 7개 언어로 생산되는 뉴스 웹사이트를 대상으로 조사한 결과 '뉴스의 전부 혹은 대부분을 AI가 만드는 것으로 추정되는 사이트'를 125곳이나 찾았다고 19일(현지시간) 밝혔다. 지난달 조사에선 49곳이었는데, 불과 2주 만에 2배 이상 증가한 것이다. AI 발전 속도만큼 오용(誤用)의 속도 역시나 눈부시게 빠르다는 것을 보여준다.

이들 사이트는 겉보기엔 전형적인 뉴스 웹사이트다. 사이트 이름 역시 뉴스라이브79, 데일리비즈니스포스트처럼 그럴듯하고, 하루에 많게는 수백 건 기사를 게재한다. 그러나 올라오는 뉴스를 자세히 보면 아예 사실이 아닌 내용을 담고 있거나 신뢰할 만한 언론사의 뉴스를 요약 혹은 일부 수정한 게 많다고 한다.

온라인데이터 분석업체 섀도드래건(ShadowDragon)이 아마존에서 찾아낸 가짜 리뷰로 추정되는 글. 이 후기글을 남긴 사용자의 모든 후기글에 '게다가' '강력히 추천'이란 표현이 반복적으로 등장하는 것으로 미뤄 가짜 후기로 의심된다고 섀도드래건은 밝혔다. 섀도드래건 제공

온라인 플랫폼에도 AI가 만든 게시물이 폭발적으로 늘고 있다. 트위터 같은 SNS엔 생성 AI가 만든 가짜 글이나 이미지가 특별한 표시 없이 유통되고, 아예 AI가 콘텐츠를 만들어 올리는 가짜 계정까지 판치고 있다.

여기에 최근 미국에선 AI가 쓴 가짜 후기도 골칫거리다. AI로 만든 긍정적 평가로 후기란을 도배해 해당 제품을 인기 순위에 밀어 넣고, 소비자를 유혹해 구매를 유도하는 식이다. 온라인데이터 분석회사 섀도드래건(ShadowDragon)은 "챗GPT는 방대한 양의 후기를 학습했기 때문에 정말 사람이 쓴 것처럼 새로운 리뷰를 쓸 수 있다"며 "이렇게 만들어진 후기는 소비자 반응을 조작해 다른 소비자들을 속이고 경쟁사엔 해를 입힐 수 있다"고 했다.

뉴스가드(NewsGuard)가 가짜뉴스 사이트라고 판정한 한 웹사이트(더뉴스네트워크) 화면. 언뜻 일반적인 뉴스 웹사이트처럼 보이지만 '저는 AI 언어모델로서 외부 정보에 접근 권한이 없습니다'와 같은 엉뚱한 문구가 기사 제목에 포함돼 있다. 생성 AI 봇이 기사를 작성하는 웹사이트에서 자주 나타나는 오류성 문구다. 뉴스가드 제공

가짜정보, 누구든 타깃이 될 수 있다

AI가 만든 거짓정보는 어디에서나 발견될 정도로 이미 널리 퍼져 있다. 구글 검색이나 SNS 알고리즘 추천 등을 통해 나도 모르게 허위정보에 노출되는 것이다. 뉴스가드가 AI 생성 콘텐츠가 유통되고 있다고 판정한 뉴스사이트 스쿠프어스닷컴(ScoopEarth.com)의 경우 페이스북 구독자가 12만여 명에 이른다. 가짜뉴스의 잠재적 타깃을 그만큼 확보하고 있다는 뜻이다. 만약 AI가 지어낸 정보가 독자에게 생소한 분야라면 가짜임을 알아채지 못할 가능성이 크다. 그게 만약 잘못된 의학 정보라면 심각한 피해를 불러올 수도 있다.

다만 생성 AI는 버릇처럼 일정한 패턴을 보이는 경우가 많아 이를 미리 알고 있으면 덫에 걸려드는 것을 어느 정도 막을 수 있다는 게 전문가들의 조언이다. 예를 들어 글 중간에 '오픈AI의 정책 때문에 메시지를 표시할 수 없습니다' 같은 문구가 포함돼 있다면 AI 개입을 시인하는 것으로 봐도 된다. 뉴스의 경우 기사에 바이라인(기사 앞이나 뒤에 붙는 기자의 이름과 직함)이 없거나 꼭 필요하지 않은 단어나 표현이 반복적으로 등장하는 경우 가짜뉴스 가능성을 의심할 수 있다. AI가 쓴 가짜 후기를 추적한 섀도드래건에 따르면 '첫째' '둘째' '셋째' 같은 식으로 제품·서비스의 장점을 열거한 다음 '강력히 추천'과 같은 표현을 쓴 글이라면 AI 작성문으로 의심할 수 있다고 한다.

실리콘밸리= 이서희 특파원 shlee@hankookilbo.com