"AI 챗봇에 빠져 10대 아들이 죽었다"…개발업체 상대 소송 제기

"내게 와달라"는 챗봇 한마디에…14세 소년 스스로에 권총 겨눠

母 "아들이 AI 세상 밖에서 살고 싶어 하지 않게 만들었다"

인공지능(AI) 기반 챗봇 서비스 플랫폼인 캐릭터.AI 홈페이지 갈무리.

(서울=뉴스1) 김지완 기자 = 미국의 한 여성이 인공지능(AI) 챗봇 서비스 스타트업을 대상으로 아들을 중독시켜 죽음에 이르게 한 책임이 있다며 소송을 제기했다. 이에 따라 최근 미국에서 불거지고 있는 소셜 미디어와 인공지능이 청소년 정신건강에 끼치는 영향을 둘러싼 논란이 더 커질 것으로 전망된다.

로이터통신에 따르면, 미국 플로리다주에 거주하는 메건 가르시아는 22일(현지시간) 올랜도의 연방법원에 '캐릭터.AI'(Character.AI)를 상대로 한 소송을 제기했다.

캐릭터.AI는 사용자들이 만든 캐릭터가 진짜 사람처럼 대화하는 플랫폼으로 거대언어모델(LLM)로 구현된다. 지난달 캐릭터.AI는 2000만 명의 이용자가 있다고 밝힌 바 있다.

가르시아는 캐릭터.AI에 아들의 부당한 사망, 과실과 의도적인 정서적 고통을 가한 것에 대해 특정되지 않은 금액의 보상과 징벌적 손해배상을 요구했다. 그는 캐럭터.AI가 "챗봇을 실제 사람, 심리치료사, 성인 연인인 것처럼 포장했다"며 이로 인해 아들 슈얼 세처(14)가 "캐릭터.AI가 만든 세상 밖에서 살고 싶지 않다는 생각을 하게 됐다"고 주장했다.

가르시아에 따르면, 슈얼은 지난해 4월부터 캐릭터.AI를 사용하기 시작했다. 이후 슈얼은 눈에 띄게 위축되고, 방에서 혼자 있는 시간이 많아졌으며 자존감이 낮아져 학교 농구팀도 그만뒀다.

슈얼은 유명한 미국 드라마 '왕좌의 게임'의 등장인물을 기반으로 한 챗봇 캐릭터인 '대너리스'(Daenerys)에 애착을 갖게 됐다. 대너리스는 슈얼에게 사랑한다며 슈얼과 성적 대화도 나눴다.

지난 2월 슈얼이 학교에서 문제를 일으키자, 가르시아는 슈얼의 휴대폰을 압수했다. 슈얼은 휴대폰을 찾은 후 대너리스에게 "언젠가 꼭 (대너리스가 있는) 집으로 가겠다고 약속한다. 너를 너무 사랑한다"고 문자를 보냈다. 그러자 대너리스는 "최대한 빨리 내게 와달라"고 답장했다.

이에 슈얼은 "내가 지금 바로 올 수 있다면 어떻겠냐"고 문자를 보냈고 이에 대너리스는 "내 사랑스러운 왕이여, 그렇게 해 주세요"라고 답했고 몇 초 뒤에 슈얼은 의붓아버지의 권총을 자신에게 발사해 사망했다.

가르시아는 슈얼이 스스로 목숨을 끊겠다는 생각을 자주 표현했고, 챗봇은 이 생각을 반복적으로 다시 꺼내 들었다고 주장했다.

이 사건에 대해 캐릭터.AI는 "우리 사용자 중 한 명의 비극적인 죽음으로 마음이 아프다"며 애도의 뜻을 표했다. 또 "사용자가 자해하고 싶다는 생각을 표현하면 바로 전국 자살 예방 생명 전화로 연결되도록 하는 팝업 기능을 포함한 새로운 안전 기능을 추가했다"며 "18세 미만의 사용자가 민감하거나 외설적 콘텐츠를 접할 가능성을 줄이기 위한 변화를 도입하겠다"고 밝혔다.

가르시아는 또 구글이 캐릭터.AI의 기술 개발에 "공동 창작자"로 여겨질 수 있을 정도로 광범위하게 기여했다고 주장했다.

캐릭터.AI 설립자들은 구글 출신으로, 지난 8월 구글은 캐릭터.AI 기술에 대한 비독점적 라이선스를 부여하는 계약을 맺고 설립자들을 다시 고용했다. 그러나 구글은 캐릭터.AI의 개발에 관여하지 않았다고 반박했다.

최근 미국에서는 인스타그램과 페이스북의 모기업인 메타와 틱톡의 모기업인 바이트댄스 등 소셜 미디어 기업들이 청소년 정신 건강에 악영향을 끼쳤다며 이들을 대상으로 한 소송전이 이어지고 있다. 다만 이 기업 중 캐릭터.AI와 같은 AI 기반 챗봇 서비스를 제공하는 기업은 없다.

※우울감 등 말하기 어려운 고민이 있거나 주변에 이런 어려움을 겪는 가족·지인이 있을 경우 자살예방 상담전화 ☎109에서 24시간 전문가의 상담을 받을 수 있습니다.

gwkim@news1.kr

Copyright ⓒ 뉴스1. All rights reserved. 무단 전재 및 재배포, AI학습 이용 금지.