이젠 ‘믿음’도 기술이다…SNS 플랫폼, 사용자 신뢰 확보 전쟁 돌입

[디지털데일리 조윤정기자] 대학생 김모 씨(23)는 새로운 앱을 설치할 때마다 앱스토어 후기부터 블로그, SNS까지 꼼꼼히 확인한다. 혹시라도 불편하거나 안전하지 않은 앱을 잘못 설치하는 일이 없도록, 최소 1시간 이상을 들여 신뢰할 만한 리뷰를 찾아본다.

이처럼 요즘 소비자들은 제품이나 서비스를 선택할 때 타인의 ‘검증’을 중요하게 여긴다. 유명 인플루언서의 리뷰, 사용자 후기, 전문기관 인증 등 믿을 만한 타인의 판단을 참고해 선택의 리스크를 줄이려는 것이다.

이러한 흐름에 맞춰 플랫폼 기업들도 사용자 보호 기능을 강화하고 있다. 이용자들이 보다 안전한 환경에서 신뢰 기반의 상호작용을 할 수 있도록, 다양한 제도와 정책을 도입하고 있다.

◆ 아자르, 무례한 유저 OUT… ‘배지 시스템' 도입해 매너 소통 강화

하이퍼커넥트가 운영하는 글로벌 영상 채팅 플랫폼 ‘아자르(Azar)’는 최근 신규 기능인 ‘아자르 배지(Azar Badge)’를 도입했다. 이 기능은 사용자들이 자발적으로 매너를 지키며 커뮤니케이션하는 문화를 형성할 수 있도록 지원하기 위해 마련됐다.

아자르 배지는 일정 시간 이상 영상 통화에 참여하고, 사용자 정책 및 커뮤니티 가이드라인을 위반하지 않은 사용자에게 부여된다. 해당 배지는 사용자 프로필에 표시되며, 서비스 이용 중 제재 이력이 없음을 나타낸다.

아자르는 배지 소지자의 활동 상태와 규정 준수 여부를 정기적으로 점검할 방침이다. 또한, 사용자가 제재를 받을 시 배지가 즉시 회수되며, 이전 달 로그인 기록이 없는 경우 배지가 회수될 수 있다. 이 외에도 아자르는 실시간으로 유해 콘텐츠를 필터링하는 AI 모니터링 시스템 등 기술을 적용해 사용자 경험 개선을 추진하고 있다.

아자르 관계자는 “아자르는 상호 존중하는 커뮤니티 조성을 중요한 가치로 삼고 있다”며 “앞으로도 긍정적인 상호작용이 이뤄질 수 있도록 사용자 환경을 지속적으로 개선해 나갈 계획”이라고 덧붙였다.

◆ 구글, AI로 스팸·사기 경고… "안드로이드용 크롬에도 확대"

구글은 이달 초 크롬 사용자를 온라인 사기로부터 보호하기 위해 ‘제미나이 나노(Gemini Nano)’를 활용한 새로운 AI 보안 도구의 도입을 발표했다. 이번 업데이트를 통해 강화된 크롬의 안전 브라우징 모드는 기존의 표준 보호 모드보다 두 배 더 강력한 보안을 제공한다. 구글은 앞으로 이 보호 기능을 안드로이드 기기와 더 다양한 온라인 사기 유형에도 확대 적용될 예정이다.

더불어, 안드로이드용 크롬에서도 스팸 알림을 인지할 수 있는 AI 기반 경고 기능을 추가했다. 해당 기능은 악성 웹사이트가 푸시 알림을 통해 사용자를 속이려 할 때, AI가 경고 메시지를 표시하는 방식으로 작동한다. 사용자는 경고를 받은 뒤 구독 해지 또는 차단된 콘텐츠 확인을 선택할 수 있다. 만약 경고가 잘못 표시되었다고 판단되면, 해당 사이트의 알림을 다시 허용할 수 있는 옵션도 제공된다.

◆ "성인인 척 못한다"… 인스타그램, AI로 가짜 청소년 계정 감지

지난 해 ‘10대 계정 (Teen Accounts)’ 정책 운영을 발표한 인스타그램은 최근 보다 많은 청소년들이 앱 사용 시 적절한 보호를 받을 수 있도록 AI 기술을 활용해 청소년일 가능성이 있는 가짜 성인 계정을 자동으로 10대 계정으로 전환하는 보호 기능을 공개했다.

또한, 실제 성인 계정이 청소년 계정으로 잘못 감지된 경우 사용자가 해당 설정을 변경할 수 있도록 예외 절차가 함께 제공하는 것으로 밝혀졌다. 메타는 올해 1월부터 한국을 포함한 전 세계 청소년 계정으로 확대 중이다.

애덤 모세리 인스타그램 최고경영자(CEO)는 지난 2월 열린 미디어브리핑에서 "인스타그램에서 청소년을 최대한 보호하기 위해 통합적인 접근방식이 필요하며, 안전성 보호를 일관적으로 적용할 필요가 있다"며 "이를 위해 청소년 계정을 만들어 아시아를 비롯한 여러 지역에서 확대하고 있다"라고 밝혔다.

◆틱톡, ‘세이프티 페어링’ 강화…'쉬어가기’ 등 보호자 기능 강화

틱톡은 청소년의 틱톡 사용 시간을 조절하는 ‘세이프티 페어링’ 기능을 최근 추가 업데이트했다. 이번 업데이트는 총 15가지 안전·웰빙·개인정보 보호 기능을 포함한다. 이를 통해 부모가 자녀의 틱톡 사용을 올바르게 관리하고, 청소년들이 균형 잡힌 디지털 습관을 기를 수 있도록 돕는다.

새 업데이트의 핵심은 부모가 스크린 타임을 직접 조절할 수 있는 '쉬어가기' 기능이다. 만 18세 이하 사용자는 기본 스크린 타임이 하루 60분으로 설정돼 있는데, 설정 시간보다 길게 사용을 원할 경우 청소년은 보호자의 동의를 받아야 한다.

한편, 틱톡은 추후 청소년 사용자가 틱톡의 커뮤니티 가이드라인을 위반하는 콘텐츠를 신고할 경우, 부모나 양육자, 또는 신뢰하는 성인에게 알림을 보낼 수 있는 기능도 도입할 예정이라고 밝혔다. 해당 기능은 세이프티 페어링으로 연결되지 않은 계정에서도 사용할 수 있다.

- Copyright ⓒ 디지털데일리. 무단전재 및 재배포 금지 -