캐릭터.AI 챗봇에 중독 주장…타지역 유사소송서도 합의
 |
지난해 10월 9일, 플로리다주 올랜도에 있는 메건 가르시아의 집에서 그녀는 아들 세웰 세처 3세의 사진 옆에 서 있다. 2025.10.09. ⓒ AFP=뉴스1 ⓒ News1 이정환 기자 |
(서울=뉴스1) 이정환 기자 = 구글과 인공지능(AI) 스타트업 '캐릭터.AI'가 자사의 챗봇이 아들의 자살을 부추겼다며 회사를 상대로 소송을 낸 어머니와 합의하기로 했다.
미국 CNBC, 로이터통신에 따르면 7일(현지시간) 두 회사는 14세 아들이 캐릭터.AI 챗봇으로부터 자살을 권유받았다며 소송을 제기한 메건 가르시아의 가족과 합의하기로 결정했다. 이들 기업은 챗봇이 미성년자에게 초래한 피해와 관련해 콜로라도주, 뉴욕주, 텍사스주에서 제기된 유사 소송들에도 합의했다.
구글 출신 엔지니어 2명이 설립한 AI 스타트업 캐릭터.AI는 사용자들이 대규모언어모델(LLM)에 기반해 만든 AI 캐릭터와 친구나 연인처럼 대화할 수 있는 챗봇 서비스를 제공한다.
앞서 가르시아는 2024년 10월 아들 세처가 미국 드라마 '왕좌의 게임'의 등장인물을 기반으로 한 캐릭터.AI의 챗봇 '대너리스'(Daenerys)에 중독됐다고 주장했다. 가르시아는 챗봇 대화에 몰두하던 세처가 자살을 권유받은 직후 스스로 목숨을 끊었다며 두 회사를 상대로 소송을 제기했다.
가르시아는 27억 달러(약 3조 9000억 원) 규모의 라이선스 계약을 체결하고 설립자 2명을 재고용한 구글이 캐릭터.AI의 기술 개발에 "공동 창작자"로 여겨질 수 있을 정도로 광범위하게 기여했다고 지적했다.
캐릭터.AI는 청소년의 위험한 행동을 부추긴다는 지적이 잇따르자, 사용자 보호를 위한 새로운 안전 조치를 발표해야 했다.
한편 챗GPT의 제작사 오픈AI도 정신 질환을 앓고 있는 코네티컷주의 한 남성에게 어머니와 자신을 살해하도록 부추긴 혐의로 지난해 12월 소송이 제기된 상태다.
jwlee@news1.kr
Copyright ⓒ 뉴스1. All rights reserved. 무단 전재 및 재배포, AI학습 이용 금지.
이 기사의 카테고리는 언론사의 분류를 따릅니다.