디지털 쓰레기 속에서 진짜를 찾을 방법은 있는가 : zum 뉴스

검색 결과부터 영상, 음악, 리뷰까지, 가짜 콘텐츠가 인터넷을 뒤덮고 있다. 검색 기능이 있는 모든 서비스에는 AI 콘텐츠를 차단할 수 있는 스위치가 필요하다. 그렇지 않으면 우리는 디지털 쓰레기 더미에 빠지게 될 것이다.

개인정보 보호를 중시하는 검색 엔진 덕덕고(DuckDuckGo)는 이달 AI 생성 이미지 숨기기 기능을 새롭게 도입했다. 이 소식을 SNS에 올리자 사용자들의 반응이 뜨거웠고, 올해 가장 반가운 검색 기능이라는 공감대가 형성됐다.

작동 방식은 이렇다. 덕덕고에서 검색한 후 “이미지” 탭을 클릭하면 상단에 ‘AI 이미지: 보기’라는 메뉴가 나타난다. 이를 클릭해 ‘숨기기’로 설정하면, 검색 결과에서 AI 쓰레기 이미지가 대부분 사라진다. 이 설정을 영구 적용하려면 덕덕고 검색 설정에서 “AI 생성 이미지 숨기기”를 켜거나, 검색 주소를 noai.duckduckgo.com으로 바꾸면 된다.

광고 없는 유료 검색 서비스인 카기(Kagi)도 AI 필터링 기능을 제공한다. (참고로 필자의 아들이 카기에서 일하고 있다.)

카기에서 이미지 검색을 실행하면 ‘AI 이미지’ 드롭다운 메뉴가 나타난다. 여기서 ‘모두’, ‘없음’, ‘AI만’ 중 선택할 수 있다. (‘AI만’을 선택하면 대부분의 사람이 만든 이미지는 사라진다.) 설정(Settings) → 검색(Search) 탭 → AI 탭으로 이동하면 ‘AI 생성 이미지 제외’ 옵션을 켤 수 있다. 이 기능은 AI 콘텐츠를 대량 생성하는 사이트의 이미지를 차단하거나 검색 결과 하단으로 내린다. 이달부터는 해당 설정이 기본값이다.

또한, 검색창에 “ai:none” 또는 “ai:only” 같은 연산자를 직접 입력해도 필터링이 가능하다. 카기는 AI 이미지에 작은 배지를 붙여 구분한다.

덕덕고는 유블록오리진(uBlockOrigin)과 유블랙리스트(uBlacklist)의 오픈소스 차단 목록을 활용해 AI 이미지를 식별하고, 카기는 AI 콘텐츠를 주로 생산하는 사이트 출처를 기준으로 이미지 여부를 판단한다.

물론 이들 시스템도 모든 AI 콘텐츠를 완벽히 잡아내지는 못한다.

AI 생성 ‘리뷰’는 리뷰 자체의 가치를 해친다

AI 쓰레기 콘텐츠는 이제 거의 모든 콘텐츠 제공 사이트를 장악하고 있다. 사용자 리뷰도 예외가 아니다. 작년 한 해 동안, AI가 작성한 가짜 사용자 리뷰는 앱스토어와 온라인 쇼핑몰에서 폭발적으로 증가했다.

광고 사기 감지 전문 업체 더블베리파이(DoubleVerify)는 2024년 한 해 동안 AI 생성 앱 리뷰가 전년 대비 3배 이상 늘었다고 밝혔다. 이 조사에서, 한 인기 스트리밍 앱의 리뷰 절반 이상이 AI 생성 가짜 리뷰인 것으로 드러났다.

수천 개의 별 5개 리뷰들이 비슷한 문장 구조와 단어를 반복했으며, 이는 기계 생성 텍스트의 대표적 특징이다. 이 문제는 특정 플랫폼에만 국한되지 않고, 모바일 앱스토어와 스마트 TV 앱 플랫폼 전반에서 동일하게 나타났다.

2024년 기준, AI가 생성한 가짜 리뷰 한 건의 비용은 단 2.23달러에 불과했다. 어떤 리뷰는 “죄송하지만 저는 AI 언어 모델이라…”라는 전형적인 AI 응답 문장을 그대로 붙여넣은 흔적도 있었지만, 대부분은 막연하거나 과도하게 긍정적인 문장이 수십, 수백 건 반복되는 식이었다.

분명한 사실은 두 가지다.

첫째, 올해의 가짜 리뷰 수는 작년보다 훨씬 많을 것이며, 계속 증가할 것이다.

둘째, AI 가짜 리뷰가 인간의 리뷰를 압도하는 순간, 리뷰 시스템은 더 이상 신뢰할 수 없게 된다.

이제 웹사이트는 두 가지 선택을 해야 한다. 리뷰 기능을 없애거나, AI 가짜 리뷰를 걸러내야 한다.

세 번째 선택지는 존재하지 않는다.

AI 생성 ‘창작물’은 진짜 창작자를 밀어낸다

콘텐츠 소비자-글을 읽고, 음악을 듣고, 영상을 보는 사람들-가 언젠가는 이 콘텐츠가 사람의 창작인지 기계의 산물인지 신경 쓰지 않게 될지도 모른다. 하지만 아직은 그렇지 않다. 필자는 여전히 사람이 만들었느냐를 많은 이들이 중요하게 여긴다고 믿는다.

이달 초, 스포티파이에 가수 블레이즈 폴리(Blaze Foley)의 신곡이 올라왔다. 문제는, 폴리는 1989년에 이미 사망한 인물이라는 점이다.

이 노래는 AI가 만든 것이었고, 사용자들의 항의가 있기 전까지 며칠간 아무런 제재 없이 플랫폼에 공개돼 있었다. 폴리의 음반사 로스트 아트 레코즈(Lost Art Records)는 이를 “해로운 일”이라며 강력히 비판했고, 스포티파이가 원하기만 했다면 충분히 사전에 방지할 수 있었다고 말했다. 이 곡이 삭제된 유일한 이유는 폴리가 팬과 저작권을 관리하는 회사를 보유하고 있었기 때문이다.

한편, 소프트웨어로만 구성된 음악 프로젝트 ‘벨벳 선다운(Velvet Sundown)’은 2025년 7월 기준 월간 청취자 100만 명을 돌파했다. 이들은 “Dust on the Wind” 같은 곡으로 스트리밍 차트를 빠르게 올라왔다. 멤버는 없고, 단지 자신들을 “합성 음악 프로젝트”라고 설명하는 짧은 소개문만 있다. 이 음악은 모두 수노(Suno)나 우디오(Udio) 같은 AI 작곡 툴로, 프롬프트 한 줄만 입력하면 1분 이내에 만들어진 곡들이다.

유명 음악 유튜버 릭 비아토(Rick Beato)는 유튜브 영상에서 가짜 아티스트를 직접 생성하고, AI로 음악을 만드는 과정을 시연했다.

음악 스트리밍 플랫폼 디저(Deezer)는 2025년 봄 기준 하루에 2만 곡 이상의 AI 생성 음악이 업로드되었으며, 전체 신규 콘텐츠의 18% 이상을 차지했다고 밝혔다. 스포티파이에서는 AI 콘텐츠가 1% 미만이지만, 특히 실존 아티스트를 모방한 경우 삭제가 활발히 이루어지기 때문이다.

그러나 중요한 사실은, AI 음악은 계속 늘어날 것이며, 그 수준도 점점 더 정교해질 것이라는 점이다.

음악은 인간의 감정과 정체성, 정신 건강, 문화적 성장에 영향을 주는 강력한 예술 형식이다.

우리는 과연 이 귀중한 예술을 기계에 넘길 준비가 되었는가?

음악 스트리밍 플랫폼들은, AI가 인간 창작물을 압도하는 미래에 대비해야 한다.

AI 쓰레기는 어디에나 있다

2025년 현재, 완전히 AI로 생성된 콘텐츠는 급격히 늘고 있으며, 우리의 정보 소비 및 오락 방식을 완전히 바꾸고 있다.

기사, 블로그, 제품 설명, 영상 대본 등 다양한 콘텐츠가 챗GPT, 재스퍼(Jasper), 제미나이(Gemini) 같은 생성형 AI 모델에서 단 몇 초 만에 수십 개 언어로 자동 작성된다.

런웨이(Runway), 신세시아(Synthesia), 피카랩스(Pika Labs), D-ID 같은 플랫폼을 이용하면 영상 제작도 거의 자동화할 수 있다. 텍스트 프롬프트나 간단한 스크립트를 입력하면, 가상의 배우나 스톡 영상, 애니메이션을 조합해 영상이 완성된다.

소셜미디어에는 미드저니(MidJourney)와 달리(DALL·E) 같은 플랫폼에서 만들어낸 AI 이미지와 숏폼 영상, 밈이 쏟아지고 있다. 이들 중 다수는 단 한 명의 인간 창작자도 관여하지 않았다.

모든 AI 콘텐츠를 금지하는 것은 현실적이지도, 바람직하지도 않다.

하지만 콘텐츠를 큐레이션하거나 호스팅하는 플랫폼들은 인간이 만든 것과 기계가 만든 것을 구분할 수 있도록 도와줘야 한다.

사용자도 그렇게 요구하게 될 것이다.

dl-itworldkorea@foundryco.com

이 기사의 카테고리는 언론사의 분류를 따릅니다.