“대량 댓글 AI, 50만원에 팔려”… 여론조작 우려

온라인 곳곳 프로그램 판매 성행

단순 반복 매크로보다 자연스러워

포털도 AI 가짜 댓글 방지엔 한계

총선 앞둔 선거종합상황실 4월 총선을 84일 앞둔 17일 경기 과천시 중앙선거관리위원회에 설치된 제22대 총선 선거종합상황실에서 선관위 직원이 업무를 하고 있다. 중앙선관위는 15일 22대 총선 선거종합상황실 개소식을 열고 본격적인 선거 관리 체제에 돌입했다. 과천=뉴시스

생성형 인공지능(AI) 기술로 대량의 댓글을 자동으로 만드는 프로그램이 온라인에서 수십만 원에 판매되고 있다. AI 댓글을 달 수 있는 프로그램을 만들어 주겠다는 개발자에 이어 AI 프로그램 개발법까지 온라인에서 공유되는 실정이다. 과거 여론 조작은 다수의 사람이 일일이 댓글을 다는 형태로 이뤄졌지만 이제는 AI 프로그램 하나를 통해 수많은 댓글을 만들어 낼 수 있게 됐다. 4월 10일 22대 국회의원 총선을 앞두고 여론 조작 우려가 커지고 있다.

17일 정보기술(IT) 업계에 따르면 온라인에서 생성형 AI를 활용해 댓글을 자동으로 달 수 있는 프로그램이 곳곳에서 판매되고 있다. 한 사이트에서는 ‘자동 AI 댓글 프로그램’으로 불리는 프로그램을 50만 원에 구매할 수 있다고 홍보하고 있었다. 이 사이트는 “블로그를 관리하려면 이웃 관리가 필수”라며 “로그인하고 챗GPT 응용프로그램인터페이스(API) 키만 입력하면 이웃이 작성한 블로그 글에 자동으로 댓글을 달아주는 프로그램”이라고 설명했다.

특정 프로그램 개발자는 블로그나 소셜네트워크서비스(SNS) 등에 필요한 용도에 따라 댓글을 자동으로 달 수 있는 프로그램을 만들어 주겠다며 100만 원에서 많게는 400만 원까지 요구하기도 했다. 검색을 통해서도 챗GPT를 활용해 댓글을 자동으로 생성하는 방법 등을 쉽게 찾을 수 있어 관련 지식이 있다면 스스로 AI 댓글 프로그램을 만들 수도 있다.

문제는 총선을 앞둔 상황에서 이런 AI 프로그램이 선거 여론을 조작하는 데 악용될 수 있다는 점이다. 과거에도 블로그 등에 댓글을 자동으로 달아주거나 공감을 누르는 매크로(자동입력반복) 프로그램이 있었지만 단순 문장을 반복하는 수준에 그쳤다. 그러나 생성형 AI 기술이 접목되면서 사람이 쓴 것과 구분이 되지 않을 정도로 자연스러운 댓글들을 광범위하게 만들 수 있다. 특정 정당 지지자가 그 정당에 유리한 댓글을 널리 퍼뜨려 여론인 것처럼 조작할 수 있는 것이다.

국내 양대 포털인 네이버와 카카오는 댓글 운영 정책을 통해 비정상적인 이용 패턴을 탐지해 조치하고 있지만 생성형 AI가 만든 가짜 댓글을 막기에는 한계가 있다. 카카오는 AI 악성 댓글을 필터링하는 ‘세이프봇’을 적용하고 24시간 동안 댓글 개수를 제한하는 정책을 운영하고 있다. 네이버도 2018년부터 동일 내용 반복 게시 어뷰징(의도적 조작)에 대응하는 기술을 꾸준히 업데이트하고 있다. 하지만 포털 관계자는 “AI가 다는 댓글은 워낙 자연스러워 사람이 달았는지, AI가 달았는지 내용상 구분하기는 솔직히 힘들다”고 말했다.

남혜정 기자 namduck2@donga.com

ⓒ 동아일보 & donga.com, 무단 전재 및 재배포 금지