"악성 AI 군집, 여론조작 도구로 부상"…국제학자들 경고

"민주주의 체계적 위협…다층적 방어·글로벌 협력 필요"

딥페이크 (PG) [강민지 제작] 일러스트

(서울=연합뉴스) 조승한 기자 = 대형언어모델(LLM)과 자율 에이전트 등 인공지능(AI) 기술 발달과 함께 조직적으로 허위 정보를 유포하는 '악성 AI 군집'이 등장하며 민주주의를 위협하는 여론 조작 도구로 기능할 수 있다는 경고가 국제 학계에서 제기됐다.

다니엘 슈뢰더 노르웨이 과학산업기술연구재단(SINTEF) 연구원과 차미영 독일 막스플랑크연구소 보안·정보보호 연구소단장 등 학자들은 23일 국제학술지 '사이언스'에 이런 내용의 정책 포럼 논문을 발표했다.

사이언스는 여러 전문가가 함께 과학적 성과가 사회에 미치는 영향을 분석하는 정책 포럼 세션을 운영하고 있다. 이번 논문에는 대만 첫 디지털 장관인 오드리 탕, 닉 보스트롬 영국 옥스퍼드대 인류미래연구소장 등 관련 전문가 22명이 참여했다.

이들은 LLM과 에이전트 기술 결합이 대규모·고정밀 여론 조작을 가능하게 한다며 이 기술이 민주주의에 체계적 위협이 될 수 있다고 경고했다.

연구팀은 악성 AI 집단의 특성으로 ▲ 지속적인 온라인 정체성 유지 ▲ 공동 목표 아래 서로 다른 말투와 역할을 수행 ▲ 이용자 반응과 플랫폼 알고리즘에 실시간으로 적응 ▲ 최소한의 인간 개입으로 여러 플랫폼을 넘나들며 활동하는 점 등을 꼽았다.

기존 여론 조작 방법이 단순히 같은 메시지를 반복했다면, AI는 설득력 있으면서도 인간과 구분하기 어려운 유사 콘텐츠를 대량 생산할 수 있다고 연구팀은 지적했다.

이전 방식이 노동 집약적이었다면, AI 시스템은 값싸면서도 엄청난 규모로 작동할 수 있어 허위 정보 유포 활동을 전 세계 민주주의 과정에 심각한 위협을 가하는 지속적인 캠페인으로 변화시킬 수 있다고 연구팀은 덧붙였다.

또 악성 AI가 인터넷을 허위 담론으로 범람시키면 LLM 학습 데이터를 오염시키는 'LLM 그루밍'을 유발할 수 있다고 이들은 지적했다.

이들은 이런 악성 AI군집 사용을 완전히 막기는 어렵다면서 다층적이고 실용적인 방어 시스템을 갖추고 조작에 드는 비용과 위험, 가시성을 높이는 데 초점을 맞춰야 한다고 주장했다.

이를 위해서는 전 세계적 협력이 필요한 만큼 연구팀은 독립적 감독과 조치를 이끌기 위해 학술단체, 비정부기구, 시민단체 네트워크 등으로 구성된 분산형 'AI 영향 관측소'를 구축하자고 제안했다.

이들은 "엄격한 측정, 적절한 안전장치, 그리고 공동 감독에 전념한다면, 다가오는 선거는 민주적인 AI 거버넌스에 대한 후퇴가 아니라 오히려 그 시험대가 될 수 있을 것"이라고 강조했다.

shjo@yna.co.kr

▶제보는 카카오톡 okjebo
▶연합뉴스 앱 지금 바로 다운받기~
▶네이버 연합뉴스 채널 구독하기
<저작권자(c) 연합뉴스, 무단 전재-재배포, AI 학습 및 활용 금지>