오픈AI "챗GPT 이용한 선거 방해 급증·고도화…올해만 20건 이상"

오픈AI, '영향력 및 사이버 운영' 10월 보고서 발표

"올해 초부터 자사 모델 이용 시도 20건 이상…모두 중지"

선거 관련 딥페이크 생성 건수 전년 대비 900%↑

[웨스트채스터(미 펜실베이니아주)=AP/뉴시스] 인공지능(AI) 업체 오픈AI가 챗GPT 등 자사 기술을 이용한 '악의적' 선거 방해 행위가 점차 고도화되고 빈번해지고 있다고 경고했다. 사진은 지난해 12월6일 미 펜실베이니아주 웨스트체스터에서 한 스마트폰 화면에 챗GPT 로고가 보이고 있는 모습. 2024.01.10.

[서울=뉴시스]박광온 기자 = 인공지능(AI) 업체 오픈AI가 챗GPT 등 자사 기술을 이용한 '악의적' 선거 방해 행위가 점차 고도화되고 빈번해지고 있다고 경고했다.

9일(현지시각) CNBC에 따르면, 오픈AI는 이날 '영향력 및 사이버 운영' 10월 보고서를 내어 "올해 초부터 자사 모델을 사용하려고 시도한 전 세계 20개 이상의 운영 및 사기성 네트워크를 중지했다"고 밝혔다.

이어 "이들의 활동은 멀웨어(악성코드) 생성 및 디버깅, 웹사이트용 기사 작성, 소셜미디어(SNS)에서 허위 계정을 통한 가짜 뉴스 생성 등 다양했다"고 말했다.

그러면서 "특히 AI를 사용해 SNS 게시물을 분석하고 답장하려는 등 악의적 활동 수법이 점차 복잡해지고 고도화되고 있다"고도 진단했다.

오픈AI가 공개한 보고서에 따르면, "악의적 선거 방해 행위"와 관련된 SNS 콘텐츠 대부분은 미국과 르완다 선거를 겨냥한 것으로 나타났다.

실제 지난 8월 말 이란의 한 사이버 활동은 챗GPT를 사용해 미국 선거에 대한 "장문 기사"와 SNS 댓글 및 기타 주제를 생성한 바 있다.

다만 오픈AI는 해당 게시물 대부분이 '좋아요'와 '공유' '댓글' 등의 호응을 얻지 못했다고 덧붙였다.

또 지난 7월 르완다에선 일부 악의적 행위자들이 SNS 엑스(X·옛 트위터)에서 챗GPT를 이용해 선거 관련 허위 댓글을 작성하는 사건도 발생했다. 이에 오픈AI는 해당 계정을 금지했다고 밝혔다.

아울러 지난 5월엔 이스라엘의 한 기업이 챗GPT를 사용해 인도 선거에 대한 SNS 댓글을 생성했다. 지난 6월엔 프랑스의 유럽 의회 선거와 미국, 독일, 이탈리아, 폴란드 정치에 대한 댓글을 생성하는 비밀 작전이 시행되기도 했다.

머신러닝 기업 클래리티에 따르면 AI가 생성한 콘텐츠의 증가로 선거 관련 허위 정보가 크게 늘어났으며, 이와 관련한 딥페이크 생성 건수는 전년 대비 900% 증가했다.

오픈AI는 지난 1월부터 현재까지 20건 이상의 "악의적으로 선거 결과에 영향을 미치려는 시도"를 무력화했다고 밝혔다.

아울러 챗GPT 등 자사 기술을 사용한 어느 것도 "바이럴 참여"를 유도하거나 "지속 가능한 청중"을 구축하지 못했다고 덧붙였다.

한편 CNBC는 이 같은 내용의 오픈AI 보고서가 미국 대선이 한 달도 채 남지 않은 시점에 발표됐다고 설명했다.

CNBC는 "미국을 넘어 전 세계적으로 선거가 치러지는 중요한 해로, 40개국 이상에서 40억 명 이상의 사람들에게 영향을 미치는 선거가 진행된다"고 보도했다.

☞공감언론 뉴시스 lighton@newsis.com

▶ 네이버에서 뉴시스 구독하기
▶ K-Artprice, 유명 미술작품 가격 공개