선거 가짜뉴스 유탄 맞을라…네카오, 허위정보 확산 방지 '총력'

AI 필터링 기술 고도화한 네이버, 음란물 방지중

카카오, 모니터링·고객센터 인력 확대 운영

양사 KISO 회원사로서 딥페이크 대응 논의 시작

[이데일리 최연두 기자] 오는 4월10일 실시되는 제 22대 국회의원 총선거(이하 총선)를 앞두고 네이버와 다음 카카오 포털이 허위 정보나 기사, 딥페이크 콘텐츠 모니터링 강화에 나섰다.

(사진=네이버 블로그 게시글)

25일 네이버에 따르면 인공지능(AI) 필터링 기술 엑스아이의 고도화 버전인 ‘그린아이’가 네이버 포털 상의 유해 딥페이크 콘텐츠를 실시간으로 차단하고 있다. 총선 후보자의 얼굴을 합성해 만든 음란물을 집중적으로 걸러낸다. 또 이르면 다음 주 초부터 딥페이크 콘텐츠 제작 등 관련 용어를 검색하는 경우 경고 문구를 노출할 예정이다.

선거 기간 전후로 생성형AI 서비스인 ‘클로바X’와 ‘큐:’는 선거 결과 예측 등 정치적인 입장을 답변 등에 포함하지 않도록 기술적으로 조치했다. 네이버 관계자는 “AI 모델 학습과 운영 상 대응 등 기술적 조치를 계속 이어가고 있다”고 강조했다.

일부 이용자에만 제공되는 클로바X 이미지 편집 기능에는 얼굴합성 기능을 제한했다. 이에 따라 가령 이용자가 ‘OOO 후보자 얼굴로 바꿔줘’ 등을 요청하면 생성물을 제공하지 않는다. 음란물 등 콘텐츠가 생성되지 않도록 엔진 필터를 적용했다는 설명이다.

앞서 네이버는 카페와 블로그 콘텐츠 업로드 시에도 허위 정보와 딥페이크 영상이 법적 제재를 받을 수 있다는 문구를 지난달 노출하기 시작했다. 네이버 관계자는 “딥페이크로 인한 피해를 막기 위한 다양한 방안을 논의하고 있다”고 말했다.

(사진=다음 공지사항 웹페이지)

카카오는 총선기간 동안 24시간 운영되는 모니터링·고객 센터의 가동 인력을 확대했다. 인력 운영 현황은 비공개라며 구체적인 수치는 공개하지 않았다. 해당 센터에서 공정한 선거 정보를 제공하고, 딥페이크나 허위 사실 등 정보를 방지하는 데에 적극 대처하고 있다.

더불어 카카오브레인의 이미지 생성형 모델 ‘칼로’에 일반 이용자에는 보이지 않는 비가시성 워터마크를 도입했다. 콘텐츠 제작자가 더 주의를 기울여 콘텐츠를 기획·제작하고 유통하도록 지원하기 위해서다. 허위 조작 정보를 신고할 수 있도록 여러 채널에서 안내 중이다.

아울러 네이버와 카카오는 생성형 AI가 작성한 기사에 AI 저작물임을 표시해 이용자가 이를 쉽게 인지하도록 할 방침이다.

앞서 양 사는 이달 초 한국인터넷자율정책기구(KISO) 회원사로서 딥페이크 기반 허위조작 정보의 대응 방향을 논의하기 시작했다. KISO 산하 신기술위원회에 참가해 심심이, 스캐터랩, 튜닙 등 챗봇 서비스 업체 및 전문가들과 관련 이슈를 중점 다루는 회의를 열고 대책을 강구했다. 신기술위는 총선 기간 딥페이크 기술을 이용한 허위조작 정보가 확산할 가능성을 예의 주시하며 구체적인 사례를 수집·분석할 예정이다.