[팩플] 오픈AI "중국, 챗GPT 활용해 여론조작…리처드 기어 비난도"

러시아, 중국, 이란, 이스라엘 등에서 생성 인공지능(AI)을 활용해 가짜뉴스·댓글을 만들어 여론조작에 활용한 사례가 나왔다. 중국에서 AI로 생산된 한국어 기사도 있었는데, 후쿠시마 원전 오염수 방류와 관련해 일본을 비난하는 내용이었다.

━

무슨 일이야

오픈AI는 30일(미국 현지시간) 보고서를 통해 “우리 AI 모델(챗GPT)을 여론조작에 이용하려는 시도를 확인해 해당 계정을 차단했다”며 “이들은 다양한 언어로 된 짧은 댓글을 다수 생성했고 텔레그램, X(트위터), 인스타그램 등에 게재했다”고 밝혔다.

━

이게 왜 중요해

지난해 5월 샘 올트먼 오픈AI 최고경영자(CEO)는 미국 의회 청문회에서 “AI 모델이 여론을 조작하거나 거짓 정보를 제공할 수 있다고 생각한다. 심각하게 우려되는 부분”이라고 했다. 1년만에 우려가 현실이 됐다.

오픈AI 조사 결과에 따르면, 러시아 2개 그룹, 중국과 이란 각 1개 그룹이 이를 주도한 것으로 확인됐다. 이들이 AI로 만들어 낸 댓글과 기사, 이미지는 저마다 자국의 민감한 이슈와 관련돼 있었다. 러시아의 경우 우크라이나 전쟁에 대해 미국과, 유럽연합(EU)을 부정적으로 묘사했다. 러시아는 EU 각국에 중요한 경제 협력국이고 우크라이나는 약하고 부패한 국가라는 내용도 있었다.

오픈AI가 파악한 여론조작을 위한 SNS 게시물. 오픈AI는 "본문과 영상이 맞지 않는데 혼동된 것으로 추정된다"고 밝혔다. 오픈AI 조사보고서 캡처

중국에서 파악된 챗GPT 악용 사례는 반체제 인사를 비판하는 내용이 주를 이뤘다. 중국으로부터 티베트 독립을 주장한 미국 배우 리처드 기어를 비난한 온라인 게시물도 만들어졌다. 지난해 말엔 한국어, 영어, 일본어 등으로 된 후쿠시마 오염수 관련 기사로 일본 정부를 비난하기도 했다.

이스라엘은 팔레스타인 가자지구에서 진행 중인 전쟁에 대한 친이스라엘 여론을 조성하는 데 AI를 사용했고, 이란은 중동 정세 관련 팔레스타인, 이란 등의 반미 분위기를 확산하는 콘텐트를 생산했다.

샘 올트먼 오픈AI CEO는 가짜뉴스 등 AI의 부작용에 대해 '업계 공동의 노력'을 강조하고 있다. 중앙포토

다만, 오픈AI는 이렇게 만들어진 결과물이 “효과를 보지 못했다”고 밝혔다. 다양한 소셜미디어(SNS)에 유포됐지만 이용자들은 “로봇이 생성한 이미지”라거나 “러시아가 만들었네” 등 부정적인 반응을 보였다고 한다.

━

앞으로는

이번에 발각된 여론조작 행위 특징에 대해 오픈AI는 AI로 텍스트와 이미지 생성, 사람이 직접 작성한 콘텐트와 섞어 온라인 게시, 참여를 유도하는 댓글 생성, 게시글 문법 교정에 활용 등으로 정리했다. 오픈AI는 “AI가 악용되는 것을 막기 위해 여론조작 활동을 인식하고 방지하도록 설계하고 있다”면서 “AI 생태계 전반이 협력해야 한다”고 밝혔다.

김철웅 기자 kim.chulwoong@joongang.co.kr

▶ 중앙일보 / '페이스북' 친구추가

▶ 넌 뉴스를 찾아봐? 난 뉴스가 찾아와!

ⓒ중앙일보(https://www.joongang.co.kr), 무단 전재 및 재배포 금지