컨텐츠 바로가기

이슈 모바일 게임 소식

미성년자 보호 도구로 활용되는 AI와 안면인식기술, 효과적인 솔루션이 될까

댓글 첫 댓글을 작성해보세요
주소복사가 완료되었습니다
AI타임스

<이미지를 클릭하시면 크게 보실 수 있습니다>


(사진=셔터스톡)미성년자 이용자를 가려내기 위한 방안으로 AI 기술을 도입하는 사례가 늘고 있다.

'위쳇'을 만든 중국 기업 텐센트(Tencent)는 2018년 '왕자영요'(王者荣耀) 게임에 안면인식 검증 과정을 도입했다. 최근 페이스북, 인스타그램 등에서도 청소년이 부적절한 콘텐츠 시청을 하는 것을 막기 위해 인공지능(AI) 등 최신 기술을 도입하는 행보를 이어가고 있다.

기술 언론 매체 툴박스(Toolbox)는 페이스북이 인공지능(AI)를 활용해 유해 정보로부터 10대 보호에 나섰다고 2일 밝혔다. 페이스북은 13세 미만 이용자가 가입 시 거짓으로 개인정보를 입력하는 등 '부적격 이용자'가 많은 점을 감안, 이를 막기 위해 AI로 주변 팔로워들의 연령, 게시물로 나이를 유추하는 방식을 도입할 것이라고 발표했다.

인스타그램도 18세 미만의 사용자로 분류된 계정일 경우, 팔로우하지 않는 성인의 메시지를 받지 않도록 했다. 또 과거 의심스러운 행동을 보인 성인 소유 계정에는 게시물이 표시되지 않도록 했다.

하지만 AI가 과연 어떤 데이터를 학습해 무슨 기준으로 나이를 분류할 지, 그 정확성에 관해 이용자 연령 파악이 어렵다는 점을 페이스북도 인지하고 있는 것으로 알려졌다.

페이스북은 이런 문제를 줄이기 위해 온라인 안전, 아동 발달, 아동과 청소년 미디어, 개인 정보 보호, 청소년 발달, 심리학과 육아 전문가 그룹과 정기적으로 상호 작용하고 있으며, 국회의원 등 공무원과도 협력하고 있다고 밝혔다.

온라인 환경에서는 자신을 있는 그대로 드러내지 않고도 얼마든지 사실과 다르게 꾸미고, 표현하는 것이 가능하기 때문에 AI가 100% 정확도를 보이며, 미성년자를 가려내긴 힘들다.

나이에 맞지 않게 조숙한 취향을 가진 청소년이나, 어린 감성을 지닌 성인도 공존할 수 있고, 인스타그램의 경우, 팔로우 여부에 따라 공개 범위가 달라질 수 있기 때문이다.

또한, 한국, 중국 등에서는 게임 이용자가 청소년일 경우, 유해 정보 보호와 과몰입 등으로 인한 게임 중독 방지를 위해 통금 시간인 '셧다운제'를 운영하고 있다.

셧다운제는 야간에 게임을 플레이하는 미성년자를 강제로 로그아웃시키는 시스템이다.

기존에는 성인만 접속할 수 있게 성인 인증을 거치는 방법도 도입했지만 부모의 개인정보로 만든 아이디로 접속해 밤늦게까지 게임을 하는 것이 가능하다는 문제점이 발견됐다.

이에 '위쳇'을 만든 중국 기업 텐센트는 2018년 안면인식 기술을 도입해 검열하는 방식으로 셧다운제를 강화했다. 성인 신분으로 위장해도 미성년자가 야간에 일정 시간 이상 게임시 적발한다.

텐센트의 '영점순항'(零点巡航)이라 불리는 이 안면인식 인증절차는 일정 시간을 초과해 게임을 할 시 그 계정을 통해 안면 인식이 요구된다. 이 때, 등록해놓은 신분증과 실제 얼굴을 비교, 서로 일치하지 않는다면 미성년자로 간주해 게임이 강제 종료된다. 만약 성인 이용자가 얼굴인식에 실패했다면 다른 얼굴 사진을 제출하면 된다.

중국에 출시 예정인 넥슨(Nexon)의 '던전앤파이터' 모바일 게임 서비스도 텐센트에서 담당하게 됐다. 하지만 중국 내 미성년자 온라인 게임 중독 방지를 위한 '과몰입 방지 시스템'을 업그레이드해야 한다는 등의 이유로 일정이 계속 지연되고 있는 상황이다.

요즘 청소년은 나이가 어릴 때부터 디지털화된 세상을 더 많이 접해 이를 다루는 데 익숙한 세대다. 온라인 상에선 자신이 노출되지 않고 다른 사람의 개인 정보를 도용하는 것이 쉽기 때문에 '사이버 범죄'를 일으키는 부적격 이용자를 잡는 것도 더 어려운 현실이다.

고난이도 기술인 안면인식 기술도 다른 사람인 양 특수 분장한 가면은 뚫지 못하기 때문에 감쪽같은 가면 속 진짜 얼굴은 구분할 수 없다.

홍콩 사우스차이나모닝포스트(South China Morning Post)에서는 중국 미성년자의 경우, 게임을 이어가기 위해 애초에 부모의 신분증으로 등록한 뒤, 안면인식을 피하려 잠자는 어머니 얼굴을 스캔하는 방식으로 그냥 넘어가는 일도 있으며, 심지어 고객센터와 확인 통화시 자신의 목을 꼬집어 목소리를 위조하는 사례도 발생하고 있다고 지난 6월 관련 기사를 게재했다.

한편, 안면인식 기술은 미국의 IBM, 아마존, 마이크로소프트 등 대기업에서도 인종·연령·성별에 따라 편차를 보이거나 오류율이 최소 10배에서 최대 100배 차이를 보이는 등 정확성과 공정성 논란이 끊이지 않고 있다.

작년 미국컴퓨터학회(ACM)는 미국 의회에 정부와 기업의 안면인식 기술 사용 중단 요청을 일반 사람들의 인권과 법적 권리에 위협이 될 수 있다는 이유로 적극 촉구한 바 있다.

또한, 우리나라 여성가족부도 지난달 30일부터 게임 셧다운제를 청소년의 자율선택권을 침해한다는 이유로 개선 관련 논의에 들어간 것으로 알려졌다. 청소년 수면권 보장을 위해 한국에 2011년 처음 도입돼 10년간 유지해온 셧다운제가 앞으로 어떻게 이어질지 미지수다. 이에 자녀를 둔 학부모들은 반발이 심한 것으로 알려졌다.

AI타임스 이하나 기자 22hnxa@aitimes.com

[관련기사] 게임도 이제는 구독 시대...페이스북ㆍMS 등 클라우드 기반 게임 스트리밍 서비스 잇달아 출시

[관련기사] 우울증과 불안 증상 디지털 치료제 나온다 ...스탠퍼드대 플랫폼 유퍼와 중국 챗봇 샤오톈

Copyright ⓒ '인공지능 전문미디어' AI타임스 (http://aitimes.com)
기사가 속한 카테고리는 언론사가 분류합니다.
언론사는 한 기사를 두 개 이상의 카테고리로 분류할 수 있습니다.