‘4월 총선’ 대비 나선 네이버...“이달 중 가짜뉴스 신고 센터 신설”

선거관련 허위 댓글 신고 기능도
AI 자동생성기사 별도 표시까지

조만간 딥페이크 대비책도 발표

네이버가 오는 4월 10일에 치러지는 제22대 국회의원 총선거에 대한 본격적인 준비 작업에 들어갔다.

지난달 자사 포털 내 ‘뉴스’ 서비스를 소폭 개편한데 이어 네이버는 이달 중으로 선거 관련 허위 정보 확산을 막기 위한 신고 기능을 추가로 신설하겠다고 밝혔다. 또 향후에는 인공지능(AI)이 만든 딥페이크 영상이나 조작된 사진·음성 등에 대한 대비책도 발표할 예정이다.

네이버는 1일 자사 블로그를 통해 “이용자가 직접 선거 관련 허위 정보 뉴스 댓글을 신고할 수 있는 기능을 적용하고, 별도의 신고 센터 영역을 신설해 선거관리위원회 채널로 이동할 수 있도록 연결하겠다”고 안내했다. 또 뉴스 댓글 외에도 카페, 블로그 등 네이버 서비스 전반의 허위 댓글을 막기 위해 신고 기능을 확대 적용하겠다는 계획이다.

아울러 선거 기간 이후에도 기사 형태의 허위 게시물 신고에 대한 ‘KISO(한국인터넷자율정책기구) 가짜뉴스 신고센터 채널’ 안내를 함께 추가하기로 했다.

특히 네이버는 생성형 AI가 활용된 콘텐츠가 확대되는 추세를 타고 관련 대응에 나선다는 입장이다. 대표적으로 AI가 만들어낸 기사에 대해선 이날부터 ‘이 기사는 해당 언론사의 자동 생성 알고리즘을 통해 작성되었습니다’라는 문구가 해당 기사 본문 상단과 하단에 노출된다.

네이버 측은 “뉴스 댓글 외 선거 기간 다른 서비스 영역에서의 생성형AI 기반 가짜정보 생성과 유통, 딥페이크 영상에 대한 대응은 곧 추가로 알릴 계획”이라고 강조했다.

이 외에도 네이버는 뉴스 댓글 집중 모니터링 기간 동안 보안팀 내 전담 담당자를 확대하는 등 24시간 모니터링을 강화하고, 각 부서 핫라인을 구축해 이슈 발생 시 빠른 대응에 나서겠다고 전했다.

이 과정에서 네이버는 문장 맥락을 파악해 혐오, 비하, 차별 표현까지 걸러내는 클린봇과 더불어 매크로 사용 여부를 심층적으로 감지하고 분석한다고 설명했다. 특히 AI 댓글과 딥페이크 등 신규 어뷰징 패턴을 지속적으로 분석하고 업데이트 하는 등 감시를 강화하고 있다고 네이버는 소개했다.

한편 네이버는 지난달 11일부터 네이버뉴스 각 언론사 홈에 ‘총선’ 섹션을 신설하고, 언론사별로 해당 총선 관련 기사를 모아 볼 수 있는 기능을 제공하고 있다.

이는 모든 언론사에 일괄 적용되지는 않고, 각 회사마다 선택 사항으로 총선 탭 노출 여부를 직접 설정할 수 있다. 만약 노출을 설정하게 되면 총선 탭에서 해당 언론사의 총선 섹션 기사들이 최신순으로 배열된다.

네이버 관계자는 “선거 관련 공정하고 정확한 정보를 제공하기 위해 2월 중 선거 관련 특집 페이지도 선보이겠다”고 전했다.

[ⓒ 매일경제 & mk.co.kr, 무단 전재, 재배포 및 AI학습 이용 금지]