![]() |
네이버는 '클린봇 옵저버' 서비스를 고도화해 대형 참사를 포함한 인명사고 보도의 악플 감지와 알림 기능을 강화할 예정이라고 24일 밝혔다. |
<이미지를 클릭하시면 크게 보실 수 있습니다> |
네이버(NAVER)가 인공지능(AI)을 활용한 악플 탐지 기술 '클린봇'을 활용해 대형참사와 인명사고 기사에 달리는 악플에 대한 대응을 강화한다.
네이버는 '클린봇 옵저버' 서비스를 고도화해 대형 참사를 포함한 인명사고 보도의 악플 감지와 알림 기능을 강화할 예정이라고 24일 밝혔다.
'클린봇'은 문장 맥락을 파악해 욕설, 저속한 표현이나 차별적, 비하적 표현 등을 탐지 및 필터링하는 인공지능 악플 탐지 기술로 2019년 업계 최초로 선보였다.
네이버는 지난 2023년 7월 '클린봇 옵저버' 베타 서비스를 시작했다. '클린봇 옵저버'는 '클린봇'을 활용해 악플 작성 시도를 감지하고 비율로 계산해 언론사에 알려주는 서비스다.
'클린봇 옵저버'를 통해 언론사들은 댓글 제공을 중단할 필요가 있는지 이전보다 빠르게 확인할 수 있다. 필요한 경우 즉각 중단할 수도 있다.
네이버는 지난해 말 발생한 제주항공 참사 당시에도 약 30개의 언론사가 댓글 제공을 중단했다고 밝혔다. 네이버는 추가 필요성에 따라 1분기 내에 인명사고 탐지 AI 기술을 '클린봇 옵저버'에 적용할 예정이다.
한편 네이버는 상반기 중 언론 협회·단체와 함께 '자살 예방 보도 준칙' 등 참사 보도 권고 기준을 협의하고 인명 사고 등을 보도할 때 삽입할 악플 예방 문구를 마련할 예정이다.
관련 문구가 포함된 기사의 경우 '자살 보도'와 마찬가지로 언론사에 댓글 자동 중단 여부를 설정할 수 있는 기능을 제공할 수 있다.
이 밖에도 네이버는 첨예한 사회적 갈등이나 의견 대립이 발생한 것으로 감지된 기사에 대한 대응도 검토하고 있다고 밝혔다.
네이버는 "자살 예방 캠페인에 적극적으로 동참했던 것처럼 대형 참사를 포함한 인명 사고 기사에서도 악플 근절을 위해 기술적, 정책적 노력을 지속해 나가겠다"고 밝혔다.
이찬종 기자 coldbell@mt.co.kr
ⓒ 머니투데이 & mt.co.kr, 무단 전재 및 재배포 금지
이 기사의 카테고리는 언론사의 분류를 따릅니다.
기사가 속한 카테고리는 언론사가 분류합니다.
언론사는 한 기사를 두 개 이상의 카테고리로 분류할 수 있습니다.
언론사는 한 기사를 두 개 이상의 카테고리로 분류할 수 있습니다.