네이버에서 ‘딥페이크’ 관련 검색어 입력하면 주의 문구 띄운다

총선 앞두고 딥페이크 등 허위 정보 확산 막는 방안 공개

[디지털데일리 이나연기자] 네이버가 오는 4월 제22대 국회의원 선거를 앞두고 생성형 인공지능(AI), 딥페이크(Deepfake·AI로 만든 영상·이미지 합성 조작물) 등의 피해 방지를 위한 다양한 대응책을 공개했다.

딥페이크는 사용 의도와 무관하게 그 결과물 자체로 인해 허위 정보를 확산시키거나 타인의 권리 침해와 성범죄 등을 일으킬 수 있어 제작뿐만 아니라 공유 시에도 주의가 필요하다.

특히 이번 총선에선 딥페이크 관련한 규정을 신설한 공직선거법이 시행된 데 따라 AI를 활용해 선거와 관련된 게시물이나 콘텐츠 제작할 때 주의가 요구된다.

28일 네이버는 네이버 다이어리 블로그를 통해 ‘딥페이크 등 AI 기술로 인한 피해의 방지를 위한 노력을 시작한다’라고 공지했다.

우선 네이버는 생성형 AI 서비스를 통한 선거 관련 정보 이용 시 주의 안내 문구를 추가한다. 네이버는 지난해 생성형 AI인 클로바 X 서비스를 시작으로 네이버 검색을 생성형 AI 기술로 고도화한 큐(CUE:) 서비스를 연달아 선보인 바 있다.

네이버는 이용자가 클로바 X와 CUE:를 선거와 관련된 정보 요청이나 예측 등에 사용할 때 생성형 AI의 기술적 한계를 명확히 하고, 제공이 어려움을 안내하기로 했다.

또한 다양한 형태의 사용자 질문이나 요청 형태로 인해 일부 관련 정보가 제공될 수 있는 점을 고려, 선거 기간 클로바 X와 CUE: 서비스 대화창 하단에 선거 관련 사용자 주의 안내 문구를 제공한다.

네이버는 선거 기간 이후로도 캠페인을 통해 딥페이크로 인한 문제를 알리고 이용자 주의를 요청하는 노력을 이어간다.

현재 블로그, 카페 등에선 동영상 등을 이용한 게시물을 작성할 때 딥페이크 관련 안내문구를 제공하고 있다. 이는 이용자가 새로 시행된 공직선거법 관련 내용을 확인 및 주의할 수 있게 하는 목적이다.

아울러 네이버 검색 서비스에선 검색을 통해 관련 정보나 콘텐츠가 유통되지 않도록 모니터링을 강화한다. 관련 검색어를 입력하는 경우, 검색 결과 상단에 딥페이크로 인한 문제와 주의를 환기하는 안내 문구도 노출하고, 딥페이크 관련된 게시물로 인한 피해 유형과 신고 방법 등을 확인할 수 있도록 도움말을 새롭게 구성할 예정이다.

뉴스 서비스에서도 AI, 로봇이 자동으로 작성한 기사를 사용자가 잘 인지할 수 있도록 표기를 강조할 방침이다. 언론사가 자동 로직으로 생성·전송한 기사 본문 상단과 하단엔 ‘이 기사는 해당 언론사의 자동생성 알고리즘을 통해 작성되었습니다.’라는 문구가 노출 중이다.

선거 관련 허위정보 신고를 위한 채널도 운영된다. 네이버는 선거 기간 선거와 관련된 허위 정보를 신고할 수 있도록 네이버 신고센터 메인 페이지에 ‘선거 관련 허위 정보 신고’ 채널을 개설한다.

네이버는 해당 채널의 개설로 사용자 접근성을 높이고, 선거에 영향을 줄 수 있는 허위 정보의 신고가 원활하게 진행될 수 있도록 신고 방법 등 관련 정보를 제공할 예정이다.

명예훼손 등 권리보호센터를 통해 접수되는 게시중단 요청의 경우, 선거 출마 후보자 등 관련인으로부터의 요청은 선거 관련법과 한국인터넷자율정책기구(KISO) 선거 관련 정책에 따라 운영될 예정이다.

게시물에 대한 임시조치는 선거관리위원회 결정하에 이뤄지는데, 관련 요청이 접수되면 선거관리위원회로 신고할 수 있도록 안내해 준다.

네이버 관계자는 “뉴스 댓글 집중 모니터링 기간 전담 담당자를 확대하는 등 24시간 모니터링을 강화하고, 각 부서 핫라인을 구축해 이슈 발생 시 빠르게 대응할 것”이라고 전했다.

이러한 조치는 네이버 이용자보호 및 자율규제위원회의 검토를 거쳐 개선 의견을 포함한 데 따른 것이다. 네이버 자율규제위원회는 역동적인 디지털 환경에 맞춰 이용자 보호 및 서비스 개선을 위한 제도적 기반을 마련하기 위해 지난해 9월 출범했다.

- Copyright ⓒ 디지털데일리. 무단전재 및 재배포 금지 -