“나랑 사귈래요?”…전철서 SNS보다 갑자기 나타난 그녀의 정체

SNS에 범람하는 AI걸…음란물 유포 우려
연령 제한 없어 누구나 접근 가능
생성형 AI, 진입장벽 낮아 실존인물도 피해

SNS에 ‘aigirl’을 입력하면 수십만개의 게시물이 나타난다. 이중 상당수의 이미지는 선정적이다. [사진출처 = 인스타그램]

직장인 김모씨(31)는 최근 지하철을 타고 가던 중 스마트폰으로 소셜미디어(SNSO를 보다 갑자기 음란물처럼 보이는 게시물을 보고 황급히 해당 앱을 종료했다.

김씨는 “퇴근 시간 인파가 많이 몰리는 전철 안에서 나를 이상하게 볼까봐 곧바로 껐다”며 “갑자기 튀어나와 당황했다”고 당시를 떠올렸다.

그렇다면 이 게시물의 정체는 뭘까? 김씨가 본 이미지는 생성형 인공지능(AI)이 만들어낸 것이다.

이처럼 AI를 활용하면 일반인 사진과 동영상을 순식간에 음란물처럼 둔갑시킬 수 있다.

따라서 온라인에 선정적인 이미지가 대거 양산·유포될 우려가 커지고 있다. 생성형AI는 이용자들의 요구에 다라 다양한 콘텐츠를 만들어내는 인공지능이다. 명령만 하면 생성형AI는 원하는 이미지나 동영상을 만들어 낼 수 있다는 얘기다.

대부분의 이미지 제작용 AI가 기존에 있던 이미지를 데이터로 학습해 새로운 이미지를 제작하는 원리인 만큼 실존 인물의 사진이 성적인 용도로 악용될 가능성이 충분히 있다.

실제 SNS에서 ‘aigirl’이라는 단어를 입력하고 검색하면 수십만개의 게시물이 쏟아진다. 여성의 특정 부위를 부각시키는 선정적 이미지가 많다.

최근에는 이를 이용해 돈벌이를 하는 경우도 생겨나고 있다.

연합뉴스에 따르면 직장인 이모(27)씨는 지인이 이미지 제작 AI를 이용해 다른 사람들을 위한 ‘가상의 여자친구’를 만든다는 소식을 들었다고 했다. 노출 등이 포함된 여성 이미지를 제작한 뒤 인스타그램 등에 올리면 이용자들이 후원금을 준다는 것이다.

특히 심각한 문제는 대부분의 SNS가 연령 제한 없이 누구나 쉽게 접근할 수 있다는 점이다.

그러나 관계 당국은 이를 막을 만한 조치가 아직 미흡하다.

방송통신심의위원회는 2020년 6월부터 지난 8월까지 불법 성적 허위 영상물에 대해 총 9006건의 시정 요구를 했지만 실제로 삭제된 영상은 4.55％(410건)에 불과했다.

지금이라도 제도 개선이 필요하다는 주장도 나오는 이유다.

전문가들은 생성형 AI의 자체적인 윤리 판단이 어렵기 때문에 이미지를 배포·유포하는 단계에서 차단하는 것이 필요하다고 지적한다.

[ⓒ 매일경제 & mk.co.kr, 무단 전재, 재배포 및 AI학습 이용 금지]