14세女 인스타에 “만나자” “사진 보내줘”…빅테크, 청소년 보호 ‘나 몰라라’

10대 대상 범죄터된 SNS

추천 알고리즘에 중독 심화
10대 유해·불법콘텐츠 난무
메타 등 보호정책 내놨지만
빅테크 자율규제론 역부족

美 추천영상 자동재생 끄기
청소년 대상 광고 금지 추진
한국은 이제서야 입법 논의

페이스북, 틱톡, 인스타그램 등 사회관계망서비스(SNS). [로이터 = 연합뉴스]

10만건 vs 3620만건.

2007년과 2023년 테크기업들이 아동에 대한 부적절한 온라인 콘텐츠 숫자를 미국 정부에 보고한 건 수다. 플랫폼 기업이 폭발적으로 성장했지만, 커진 영향력 만큼 미성년자에 대한 보호조치를 충분히 하지 않았음을 보여주는 숫자라고 뉴욕타임스(NYT)는 지적했다.

미국 뉴멕시코 주가 스냅챗에 제기한 소송에 따르면 주 경찰은 잠입수사를 위해 인공지능(AI)으로 만들어진 14세 소녀 이미지로 소셜미디어(SNS) 계정을 만들었다. 그러자 수많은 남성들의 부적절한 메시지와 사진들이 쏟아져 들어왔다. SNS가 10대 소녀를 대상으로 하는 성범죄자들 사냥터가 됐다는 비난이 거센 이유다.

남성 미성년자들은 SNS를 통해 소위 ‘몸캠피싱’의 타겟이 되고 있다. 성적으로 호기심이 많은 청소년을 대상으로 아름다운 여성으로 신분을 위장해 누드 사진을 주고 받게 한 후 이를 가족과 친구들에게 유포하겠다고 협박해 금전을 갈취하는 범죄다. 수치심에 자살을 하는 10대 소년들이 전세계에서 늘어나자 미국과 한국 경찰이 경보발령을 하기도 했다.

이처럼 SNS가 미성년자에 대한 범죄의 수단이 되고 중독이나 우울증 같은 부작용을 불러오자 규제 움직임이 전세계에서 빠르게 퍼지고 있다. 페이스북, 인스타그램, X, 틱톡을 비롯한 SNS 서비스 외에도 유튜브, 디스코드와 같이 영향력 있는 플랫폼 기업도 모두 규제 대상이다.

빅테크들이 자율규제 방안을 내놓고 있지만 이것만으로는 한계가 있어서다. 소위 ‘추천 알고리즘’이 핵심 경쟁력인 빅테크로선 추천이 곧 클릭이고, 돈으로 연결되는 구조이기 때문에 자율규제은 느슨할 수 밖에 없다.

올해 1월 미국 연방 상원에서 ‘빅테크와 온라인 아동 성착취’ 주제로 열린 청문회에선 SNS가 아동 보호 책임을 다하지 있지 않다는 비판이 제기됐다. 인스타그램이 17일(현지시간) 청소년을 위한 안전 사용 강화방안을 내놨지만 실제로 효과를 발휘할 지에 대해서 의문이다.

어카운터블 테크의 니콜 길은 “메타(인스타그램 모기업)의 조치는 청소년과 부모가 마땅히 누려야 할 안전과 책임을 위한 설계가 아니다”라면서 “메타의 비즈니스 모델은 사용자를 중독시키고 수익을 위해 데이터를 사용하는 데 기반을 두고 있기 때문에 메타가 제안하는 어떤 통제기능도 이를 바꾸지 못할 것”이라고 말했다.

이때문에 전세계적으로 정부가 아예 청소년의 SNS 사용을 제한하는 움직임이 빨라지고 있다. 유럽은 물론, 빅테크의 본고장인 미국에서도 마찬가지다.

프랑스는 15세이하 사용자의 연령 확인 시스템과 부모의 명시적인 동의를 요구하는 새로운 법안을 통과시켰다. 부모에겐 15세 미만 자녀의 계정을 중지할 수 있는 권한을 부여했다. 해당 법안을 위반하는 소셜 미디어 회사는 전 세계 매출의 최대 1%에 달하는 벌금을 부과받을 수 있다. 현재 해당 규정은 유럽연합(EU) 집행위원회의 승인을 기다리고 있다. 해당 법안이 발효되면 SNS 플랫폼은 1년 내에 새로운 사용자에 대해, 2년 내에 기존 사용자에 대해 정책을 준수해야 한다. 에마뉘엘 마크롱 프랑스 대통령과 메테 프레데릭센 덴마크 총리 등이 EU 전체에 15세 이하 소셜미디어 사용을 금지하는 것에 대한 지지를 밝히고 있다.

미국은 플로리다주가 14세 미만 청소년이 SNS 계정을 만드는 것을 금지하고, 15~16세는 부모 허가를 받아야 SNS를 이용할 수 있다는 내용의 법안을 추진 중이다. 지난 주 발효된 텍사스주의 ‘온라인 아동 보호법’은 부모가 자녀 계정을 제어할 뿐만 아니라 삭제도 가능하다. 또한 플랫폼 기업이 미성년자의 데이터, 개인정보를 공개하거나 미성년자에게 타겟 광고를 표시할 경우 1만달러의 벌금을 부과한다.

미국 연방의회는 아동의 온라인상 안전에 대해 플랫폼에 더 많은 책임을 부과하는 법안의 통과가 임박했다. 미 연방 상원은 올 8월 아동온라인안전법(KOSA)와 아동·청소년 온라인 개인정보 보호법 개정안(COPPA 2.0)을 통과시켜 하원의 승인만을 기다리고 있다.

KOSA는 플랫폼 기업이 미성년 개인정보를 보호하기 위한 기본값을 가장 강력한 수준으로 설정하도록 하고, 알고리즘을 통해 콘텐츠를 자동재생하는 기능을 끌 수 있게 했다. 플랫폼 기업들이 미성년자의 우울감을 조장하거나 폭력, 괴롭힘, 약물, 술, 담배 같은 유해 콘텐츠를 막도록 하는 주의 의무도 부과했다.

COPPA2.0은 기존의 미성년자 개인정보 보호법의 대상을 13세 미만에서 16세 미만으로 확대하고, 기업이 어린이와 청소년을 대상으로 광고하는 것을 금지시켰다. 기업들이 미성년자를 대상으로 이익을 추구하는 행위를 막은 것이다.

KOSA 입법을 지원하는 시민단체인 ‘청년연합’의 아바 스미싱은 PBS와 인터뷰에서 “통신품위법 230조로 인해 플랫폼 기업은 콘텐츠에 책임을 지지 않는다”면서 “법안을 통해 주의 의무를 부과하면 기업들은 아동이 소셜미디어에 중독되지 않도록 플랫폼 디자인 책임을 지게될 것”이라고 법적 규제 필요성을 설명했다.

미국에서는 플랫폼 기업들의 방탄막이 되고 있는 ‘통신품위법 230조’를 전면 개정해야한다는 목소리도 힘이 실리고 있다. 통신품위법 230조는 인터넷 사용자가 올린 콘텐츠에 대해 인터넷 사업자의 면책권을 규정한 연방법 조항이다. 그러나 이 법은 거대 플랫폼의 등장 이전인 1996년에 만들어진 법이기 때문에 개정해야한다는 목소리가 커지고 있다.

올 8월 미국 필라델피아 제3 순회 항소법원은 틱톡에서 유행한 ‘기절 챌린지’ 탓에 10세 딸을 잃은 여성이 틱톡을 상대로 낸 항소심에서 틱톡의 책임을 물을 수 없다는 원심을 파기하고, 원고의 손을 들어줬다. 기존에 통신품위법 230조에 의해 기각된 것을 뒤집은 것이다. 재판부는 “틱톡 역시 (알고리즘 방식으로)특정한 사용자에 추천되는 콘텐츠를 직접 고르고 있는 셈”이라며 앤더슨 사건에서도 틱톡은 자진해 질식에 이르게 하는 방법을 담은 콘텐츠를 아동에게 추천함으로써 통신품위법 230조의 보호를 받는 수동적인 중개인의 영역을 벗어난 것이라고 지적했다.

한국에서도 입법 논의가 진행중이다. 조정훈 국민의힘 의원은 16세 미만 청소년에 대해 SNS 일별 이용 한도를 설정하고, 중독성 있는 알고리즘 사용 시 부모의 확인을 받도록 하는 내용을 담은 법안을 발의했다. 하지만 이마저도 미국이나 유럽에 비해선 현저하게 규제 수준이 낮다는 평가다.

[ⓒ 매일경제 & mk.co.kr, 무단 전재, 재배포 및 AI학습 이용 금지]