“누워서 유튜브만 2시간째 보는 중”…도저히 못 멈추겠다, 이 정도일 줄은

韓, 전 세계서 ‘AI 쓰레기’ 영상 가장 많이 시청
누적 조회수 ‘84억5000만회’…압도적 1위
‘브레인롯’으로 판단력 저하…허위 광고까지
‘플랫폼 책임론’ 커져…AI 기본법 규제 모호

누워서 스마트폰을 보고 있는 유이. 기사 내용과 직접적인 관련없음 [MBC 나혼자 산다 방송화면 갈무리]

[헤럴드경제=차민주 기자] 전 세계에서 한국이 ‘인공지능(AI) 슬롭’을 가장 많이 소비하고 있는 것으로 드러났다. AI 슬롭은 AI와 영단어 ‘쓰레기(slop)’를 결합한 단어로, 인공지능이 대량 생산한 저품질 콘텐츠를 뜻한다.

AI 슬롭의 무분별 확산에 대해 ‘플랫폼 책임론’이 거세지고 있는 가운데, 정보기술(IT) 업계에선 현재 정부가 추진하고 있는 ‘AI 기본법’에 플랫폼의 AI 유해 콘텐츠 유통에 대한 규제가 누락됐단 지적이 나온다.

‘AI 슬롭’의 예시로 알려진 ‘새우 예수’ 이미지 [엑스(X·옛 트위터) 갈무리]

29일 글로벌 영상 편집 플랫폼 ‘카프윙’이 발표한 조사 결과에 따르면, 전 세계 AI 슬롭 소비량에서 한국은 세계 1위를 차지했다. 구체적으로 한국발 AI 슬롭 유튜브 채널의 누적 조회수는 약 84억5000만회를 기록했다. 이는 2위 파키스탄(53억회), 3위 미국(34억회)를 큰 격차로 앞지른 수치다.

AI 자료사진 [게티이미지뱅크]

문제는 AI 슬롭이 ‘브레인롯(Brain rot·뇌 썩음)’ 현상을 유발해, 이용자의 판단력을 저하시킨단 점이다. 브레인롯은 이용자가 기괴한 효과, 과도한 설정 등의 콘텐츠를 과도하게 소비해 지적 능력이 퇴화하는 상태를 의미한다.

카프윙 플랫폼의 신규 계정을 생성해 알고리즘을 테스트한 결과, 초기 추천 영상 500개 중 104개가 AI 슬롭인 것으로 나타났다. 이는 전체 추천 영상의 20%가 넘는 수치다. 특히 이 중 3분의 1은 맥락 없이 자극만 있는 ‘브레인롯’ 콘텐츠였다고 카프윙 연구팀은 설명했다.

더 큰 문제는 이처럼 AI 슬롭이 야기하는 브레인롯이 현실적인 피해로 이어진단 점이다. 올해 말 국내에서 일어난 ‘AI 가짜 의사’ 논란이 대표적인 사례다. 이는 AI로 생성된 가짜 의사가 실제 존재하는 전문가인 척 영상에 등장해, 식·의료품을 추천하는 허위 광고를 뜻한다.

카프윙이 한국의 AI 슬롭 유통 채널로 지목한 유튜브 채널 ‘3분 지혜’ [유튜브 캡처]

한 업계 관계자는 “AI 슬롭이 온라인 공간을 저품질 AI 생성물로 채우면서, 이용자는 영상의 진위 여부를 판단하는 기준 자체를 잃고 있다”며 “이는 AI 기반 범죄와 사기의 토양”이라고 설명했다.

업계에선 AI 슬롭의 무분별한 확산을 두고 플랫폼 책임론이 불거지고 있다. 한국에서 AI 슬롭이 가장 많이 소비되는 만큼, 유튜브·틱톡 등 국내에서 운영하는 플랫폼의 콘텐츠 유통 구조에 본질적인 문제가 있단 우려다.

아울러 과학기술정보통신부가 AI 기본법을 추진하고 있는 가운데, 해당 법안에 관련 플랫폼 규제가 누락됐단 업계의 지적도 나온다. 이는 유럽연합(EU)의 디지털서비스법(DSA)이 온라인 플랫폼의 AI 유해 콘텐츠 확산에 초점을 맞춘 것과 대비된 모습이다.

과학기술정보통신부. [헤럴드DB]

실제 DSA는 플랫폼을 중개 서비스, 호스팅, 온라인 플랫폼, 초대형 온라인 플랫폼(VLOP) 등 규모와 역할 단위로 구분해 책임을 차등 적용한다. 월평균 이용자 수 4500만명 이상에 달하는 초대형 플랫폼에는 불법·유해 콘텐츠에 대한 위험을 자체적으로 평가하고, 대응 방안을 공개하도록 의무를 부과하고 있다.

한 업계 관계자는 “정부가 AI 기본법에 고영향 AI에 대한 가이드라인을 마련하겠다고 나서긴 했으나, 고영향 AI에 대한 기본 정의가 모호할 뿐만 아니라 플랫폼 알고리즘 등 유해 콘텐츠 유통 구조 자체에 대한 논의가 깊이 있게 이뤄지지 않아 아쉽다”며 “AI 생성물 표시 의무를 해봤자, 콘텐츠 유통 구조를 통제하지 못하면 근본적인 해결이 어려울 것”이라고 했다.