| |
| 딥페이크/ 사진=연합뉴스 |
인공지능(AI) 기술 발달과 함께 조직적으로 허위 정보를 유포하는 '악성 AI 군집'이 등장하며 민주주의를 위협하는 여론 조작 도구로 기능할 수 있다는 경고가 국제 학계에서 제기됐습니다.
다니엘 슈뢰더 노르웨이 과학산업기술연구재단(SINTEF) 연구원과 차미영 독일 막스플랑크연구소 보안·정보보호 연구소단장 등 학자들은 오늘(23일) 국제학술지 '사이언스'에 이런 내용의 정책 포럼 논문을 발표했습니다.
사이언스는 여러 전문가가 함께 과학적 성과가 사회에 미치는 영향을 분석하는 정책 포럼 세션을 운영하고 있습니다. 이번 논문에는 대만 첫 디지털 장관인 오드리 탕, 닉 보스트롬 영국 옥스퍼드대 인류미래연구소장 등 관련 전문가 22명이 참여했습니다.
이들은 대형언어모델(LLM)과 자율 에이전트 등 인공지능(AI) 기술 결합이 대규모·고정밀 여론 조작을 가능하게 한다며 이 기술이 민주주의에 체계적 위협이 될 수 있다고 경고했습니다.
연구팀은 악성 AI 집단의 특성으로 ▲ 지속적인 온라인 정체성 유지 ▲ 공동 목표 아래 서로 다른 말투와 역할을 수행 ▲ 이용자 반응과 플랫폼 알고리즘에 실시간으로 적응 ▲ 최소한의 인간 개입으로 여러 플랫폼을 넘나들며 활동하는 점 등을 꼽았습니다.
기존 여론 조작 방법이 단순히 같은 메시지를 반복했다면, AI는 설득력 있으면서도 인간과 구분하기 어려운 유사 콘텐츠를 대량 생산할 수 있다고 연구팀은 지적했습니다.
이전 방식이 노동 집약적이었다면, AI 시스템은 값싸면서도 엄청난 규모로 작동할 수 있어 허위 정보 유포 활동을 전 세계 민주주의 과정에 심각한 위협을 가하는 지속적인 캠페인으로 변화시킬 수 있다고 연구팀은 덧붙였습니다.
또 악성 AI가 인터넷을 허위 담론으로 범람시키면 LLM 학습 데이터를 오염시키는 'LLM 그루밍'을 유발할 수 있다고 이들은 지적했습니다.
이들은 이런 악성 AI군집 사용을 완전히 막기는 어렵다면서 다층적이고 실용적인 방어 시스템을 갖추고 조작에 드는 비용과 위험, 가시성을 높이는 데 초점을 맞춰야 한다고 주장했습니다.
이를 위해서는 전 세계적 협력이 필요한 만큼 연구팀은 독립적 감독과 조치를 이끌기 위해 학술단체, 비정부기구, 시민단체 네트워크 등으로 구성된 분산형 'AI 영향 관측소'를 구축하자고 제안했습니다.
이들은 "엄격한 측정, 적절한 안전장치, 그리고 공동 감독에 전념한다면, 다가오는 선거는 민주적인 AI 거버넌스에 대한 후퇴가 아니라 오히려 그 시험대가 될 수 있을 것"이라고 강조했습니다.
#AI #딥페이크 #여론조작 #민주주의 #사이언스 #악성AI #허위사실
[박예은 디지털뉴스부 인턴기자 press.parkk@gmail.com]
< Copyright ⓒ MBN(www.mbn.co.kr)무단전재 및 재배포 금지 >
이 기사의 카테고리는 언론사의 분류를 따릅니다.