딥페이크 검색 노출도 차단…네이버, 가짜뉴스 총력 대응

가짜뉴스 확산 방지책 시행…콘텐츠 유통 막는다

'딥페이크' 관련 검색엔 "유의해 달라" 경고 문구

생성형AI 서비스엔 '환각 현상' 주의 필요성 경고

[이데일리 한광범 기자] 국회의원 총선거를 앞두고 네이버(NAVER(035420))가 가짜뉴스 확산을 막기 위해 딥페이크 등 AI 생성물을 검색 결과에 내보내지 않기로 했다. 허위정보에 대한 신고채널도 운영한다.

네이버는 28일 검색을 통해 딥페이크 관련 정보나 콘텐츠가 유통되지 않도록 기술적 조치를 취했다고 밝혔다. 이번 조치에 따라 네이버는 검색 결과에 딥페이크로 제작된 영상 등의 콘텐츠가 유통되지 않도록 모니터링을 강화한다.

네이버는 이미 블로그·카페 등 네이버 플랫폼 내에서 표출되는 동영상의 경우 딥페이크로 제작된 경우 별도 안내 표시를 하고 있다. 이번 조치는 딥페이크에 영상에 대한 단순 고지를 넘어 검색 화면에서 보이지 않도록 해 이용자들의 딥페이크 영상 접촉을 원천 차단하겠다는 것이다.

‘딥페이크 사이트’ 등 딥페이크 관련 검색을 하는 경우에도 검색결과 상단에 딥페이크로 인한 문제와 주의를 환기하는 안내 문구를 노출할 예정이다. 안내 문구는 ‘딥페이크 기술 접근, 활용함에 있어 공직선거법, 성폭력처벌법 등 법령에 위반되거나 제3자의 권리를 침해하지 않도록 유의해 달라’는 내용이 담긴다.

‘딥페이크 사용 선거운동은 범죄’ 안내도

네이버는 이번 총선에서 처음으로 딥페이크 활용을 금지하는 내용의 선거법이 시행되는 만큼, 관련 내용을 모르는 상태에서 딥페이크를 영상을 제작하는 경우를 막는 데 주안점을 뒀다. 개정된 선거법은 선거인 90일 전부터 선거 당일까지 선거 운동을 위해 딥페이크 영상을 제작·편집해 유포·게시하지 못하도록 하고 있다. 이를 어길 경우 7년 이하의 징역이나 1000만~5000만원 벌금에 처하도록 하고 있다.

네이버 측은 “딥페이크를 무심코 사용하게 되는 사용자를 방지하기 위한 노력의 시작”이라며 “새로 시행된 선거법을 미처 인지하지 못해 법에 저촉되지 않도록 딥페이크 관련 안내문구를 제공해 사용자가 관련 내용을 확인하고 주의할 수 있도록 하는 차원”이라고 설명했다.

네이버는 이와 함께 AI로 인한 허위정보 유출을 막기 위한 추가 조치에 나서기로 했다. 생성형 AI의 경우 허위나 거짓 정보를 보여주는 할루시네이션(환각현상)이 불가피한 만큼, 네이버는 자사의 생성형 AI 기술이 접목된 ‘챗봇’ 클로바X와 ‘검색’ 큐:에서 대화창 하단에 선거 관련한 사용자 주의 안내 문구를 제공할 예정이다. 이와 함께 사용자가 이들 서비스에 선거 관련 정보를 요청할 정보 제공이 어렵다는 점을 안내하기로 했다.

‘이 기사는 AI가 작성’ 하단에 설명

생성형 AI의 경우 축적된 데이터와 학습을 토대로 결과를 생성하기 때문에 새로이 변화하는 정보에 대해서는 정확성이 부족할 수 있고, 인간의 지능과 창의성을 완벽히 모방하지는 못하는 기술적 한계가 분명 존재하기 때문에 예측이 필요한 정보에 대해서는 잘못된 정보를 구성할 수 있다는 것이 네이버의 설명이다.

네이버 측은 “선거 관련 정보는 선거 일정에 따라 확정되는 정보가 많고 시점에 따라 정보가 계속 변하기 때문에 아직은 생성형 AI의 기술적 한계로 정보 구성에 어려움이 있다”며 “선거 관련된 정보는 작은 오류로도 피해가 발생하고 선거 참여에 영향을 줄 수 있어 정확성이 매우 중요하기 때문에 클로바X와 큐: 서비스를 이용할 때 주의가 필요하다”고 밝혔다.

네이버는 뉴스 서비스에서도 AI나 로봇이 자동으로 작성한 기사에 대해선 기사 본문 상단과 하단에 ‘이 기사는 해당 언론사의 자동생성 알고리즘을 통해 작성됐다’는 문구를 안내하고 있다.

선거 관련 허위정보 신고 채널도 운영한다. 선거 기간 동안 선거와 관련된 허위 정보를 신고할 수 있도록 네이버 신고센터 메인 페이지에 신고 채널을 개설했다. 네이버는 “게시물에 대한 임시조치는 선거관리위원회의 결정에 따라 조치가 취재지게 된다”며 “임시조치 관련된 요청이 접수되는 경우 선관위로 신고할 수 있도록 안내해 드리고 있다”고 밝혔다.

네이버는 뉴스 댓글로 인한 허위정보 유포 확산을 막기 위해서 댓글 집중 모니터링 기간 동안 전담 담당자를 확충하는 등 24시간 모니터링을 강화하고, 부서 핫라인을 구축해 이슈 발생 시 빠르게 대응해 나갈 예정이라고 전했다.