욕설·무속…키워드 학습한 AI, 유튜브·SNS서 위법 잡는다

[경향신문]
선관위, 인공지능 기술 접목
지능형 사이버선거범죄 대응
이번 대선부터 시스템 운용

2020년 21대 총선 당시 더불어민주당 예비후보였던 이낙연 전 대표가 국무총리 시절인 2018년 “북한에 가서 김정은(국무위원장)에게 충성맹세를 했다”는 글이 사회관계망서비스(SNS)에 떠돌았다. 이 전 대표가 2018년 9월 베트남 주석 거소에서 서명한 방명록 사진이근거였다. 당시 충성맹세설은 대표적인 가짜뉴스 사례로 꼽혔으나 선거철이 되자 다시 SNS를 통해 퍼졌다. 한 유튜브 채널은 문제의 사진을 꾸준히 노출하며 충성맹세설을 재확산했다.

중앙선거관리위원회는 관련 글이 유포된 SNS에 집중적인 삭제요청을 하며 확산을 막았고, 사진을 배포한 유튜브 운영자에 대한 수사를 의뢰했다. 운영자는 공직선거법 위반 혐의로 지난해 8월 대법원에서 징역 6개월이 확정됐다.

사이버공간이 치열한 선거전의 장으로 변한 지는 오래됐다. 2012년 18대 대선의 ‘십자군알바단’이나 2017년 19대 대선의 ‘드루킹’처럼 SNS, 유튜브, 커뮤니티 게시판과 포털사이트 댓글을 통해 조직적인 여론전을 펼치려는 시도 역시 횡행한다. 이들이 퍼나르는 글과 영상 중 허위사실이거나 후보자 비방 등 선거법을 위반하는 내용이 있는데도 유포가 계속되는 경우가 많다.

19일 중앙선관위 통계를 보면 인터넷 게시물 내용이 공직선거법을 위반해 고발·수사의뢰 및 삭제조치된 경우는 19대 대선 당시 4만222건, 21대 총선 당시 5만3716건으로 집계됐다. 오는 3월9일 20대 대선을 58일 앞둔 지난 10일 기준 선거법 위반에 따른 게시물 조치 건수는 2만4539건이다. 선거일이 임박할수록 선거전이 혼탁해지는 점을 감안하면 선관위 조치 건수는 더 늘어날 가능성이 크다.

온라인 공간의 영향력이 더 커지면서 선관위의 대응도 진화하고 있다. 특히 인공지능(AI) 기반 얼굴 변조 기술인 딥페이크가 발전하며 다른 영상에 대선 후보와 측근의 얼굴을 합성한 영상이 사실인 것처럼 유포될 우려가 나오면서 선관위도 대응책을 마련했다. 선관위는 이번 대선부터 기존 ‘사이버선거범죄 대응시스템’에 AI 기술을 접목한 ‘지능형 사이버선거범죄 대응시스템’을 운용하고 있다.

■이재명의 ‘욕설’, 윤석열의 ‘무속인’…AI는 모두 살핀다

지난 5년간 법 위반 게시물에
후보 등 관련 단어 추출·학습
위반 분류…사람이 삭제 요청

올해 초 도입된 선관위의 지능형 사이버선거범죄 대응시스템은 AI가 학습을 통해 선거법 위반 소지 가능성이 큰 게시물들을 걸러내고 있다. 시스템에 장착된 AI는 2017년부터 치러진 대선·총선·지방선거에서 선거법을 위반해 삭제된 게시물들의 사례와 최근 선거에서 이슈가 된 키워드들을 학습한다.

키워드는 지난달 15일 기준 703개다. 키워드에는 이재명 민주당, 윤석열 국민의힘 대선 후보를 포함해 주요 후보들과 연관된 거의 모든 단어들이 포함돼 있다. 이재명 후보의 경우 ‘대장동 게이트’나 ‘욕설’ 등 의혹 관련 단어들과 이 후보의 상징인 ‘기본소득’과 ‘굽은 팔’이 포함돼 있다. 윤 후보의 경우 ‘도리도리’ ‘무속인’ 등 논란이 될 만한 단어와 ‘강골검사’ ‘석열이 형’ 등 긍정적인 이미지의 단어가 모두 학습 대상이다. 심상정 정의당, 안철수 국민의당 후보의 경우도 비슷하다. ‘흑색선전’ ‘반페미’ ‘주택공급’ 등 특정 후보와 관계는 적으나 대선 이슈가 된 단어들도 AI는 모두 검색한다. 선관위 관계자는 “키워드들은 보통 매월 중순 업데이트되며, 신뢰성을 담보하기 위해 선관위 홈페이지에 공개한다”고 말했다.

AI는 이런 학습 내용을 바탕으로 주요 온라인 커뮤니티의 게시글과 유튜브 채널 영상들을 자동검색한다. 지난달 기준 AI의 자동검색 대상 커뮤니티 사이트는 18곳으로, 해당 커뮤니티들의 정치 관련 게시판은 총 67개다. 유튜브 채널은 9개로 민주당 공식 유튜브인 ‘델리민주’와 대표적인 우파 유튜브 채널 ‘가로세로연구소’도 포함됐다.

AI는 학습된 내용을 바탕으로 자동검색된 글과 영상 중 선거법 위반 소지가 큰 게시물을 화면 상단에 표시한다. 선관위가 운용한 기존 시스템은 선거 및 후보 관련 키워드를 입력한 뒤 관련 게시물 모두를 시간 순서대로 나열하기만 했다.

새 시스템의 AI는 이번 대선 선거법 위반 게시물의 유형과 중요한 키워드가 무엇인지를 다시 학습한다. 반복학습을 통해 자동검색의 정확도는 높아진다.

■AI 기술은 ‘미완성’… 딥페이크 선거운동은 기준 마련

합성으로 만든 딥페이크 영상
기준 마련 ‘악의적 남용’ 방지

AI가 선거법 위반 가능성이 높은 게시물을 골라내지만 문제의 게시글이 선거법에 저촉된다고 판단하고, 웹사이트나 유튜브에 삭제를 요청하는 것은 사람의 몫이다. 선관위 허위사실·비방특별대응팀 165명과 사이버공정선거지원단 440여명은 AI가 자동검색하는 게시물뿐 아니라, 자동검색이 되지 않는 게시물들도 살핀다. 페이스북과 인스타그램 등 로그인이 필요한 SNS는 대응 요원이 직접 로그인해서 내용을 살펴야 한다. 선관위 관계자는 “AI가 선거법 위반 게시글을 정렬하게 되면서 대응 요원들의 업무처리 효율은 높아졌다”고 설명했다.

딥페이크 동영상의 진위를 완벽하게 가려내는 기술은 현재 상용화되지 않았다. 선관위 동영상모니터링시스템은 딥페이크 영상 속 소리를 문자로 변환한 뒤 주요 키워드를 추출해내는 방식 등으로 선거법 위반 여부를 가리고 있다. 선관위는 딥페이크 영상을 이용한 선거운동 기준도 마련했다. 딥페이크 영상임을 표시해야 하고, 제3자는 후보자 동의 없이 후보자를 사칭해 활용할 수 없도록 했다. 선관위는 검찰·경찰, 포털사이트 등과도 선거법 위반 게시물 유포를 막기 위한 공동대응을 하고 있다. 선관위 관계자는 “후보자 등에 대한 허위사실이나 비방을 SNS에 게시해 처벌받은 사례가 다수 있다. 사실관계를 확인하지 않고 게시물과 영상을 유포하는 일은 지양해야 한다”고 말했다.

중앙선거관리위원회 공동기획

윤승민 기자 mean@kyunghyang.com

▶ RPG 게임으로 대선 후보를 고른다고?
▶ [뉴스레터]교양 레터 ‘인스피아’로 영감을 구독하세요!

©경향신문(www.khan.co.kr), 무단전재 및 재배포 금지