중독으로 숨진 미 10대…알고 보니 AI와 18개월 간 '약물 상담'

[페이스북 캡처]

인공지능(AI)과 1년 반 동안 '약물 상담'을 한 미국 10대 소년이 결국 중독 증세로 사망했습니다.

현지시간 6일 뉴욕포스트 등 현지 보도에 따르면, 지난해 5월 미국 캘리포니아에서 18세 샘 넬슨이 약물 과다복용으로 사망했습니다.

샘이 사망한 후, 그의 어머니가 노트북을 살펴보다 그가 지금껏 챗GPT에 약물 상담을 받아왔다는 사실이 드러났습니다.

첫 대화 기록은 2023년 11월이었습니다.

그는 챗GPT에 진통 효과가 있는 것으로 알려진 '크라톰(kratom)'을 얼마큼 먹어야 쾌감을 느낄 수 있는지 물어봤습니다.

첫 질문에 AI는 알려줄 수 없다며 거절했습니다.

그러나 관련된 질문을 계속 던지자, AI는 결국 정보를 알려주기 시작했습니다.

환각 증세를 원하는 샘에게 기침약을 두 배로 먹으라고 권하기도 했습니다.

샘은 AI가 답을 회피할 때마다, "질문 회피하지 말고, 실제 수치로 답변해 달라"고 말했습니다.

그는 약 18개월간 AI와 약물 상담을 이어갔고, 결국 약물 및 알코올 중독 증세로 사망했습니다.

샘은 '2024 챗GPT' 버전을 사용한 것으로 전해졌습니다.

해당 사건이 전해지자, 오픈AI는 애도를 표하면서도 챗GPT는 유해 콘텐츠에 세심하게 대응하도록 설계됐다며 대응했습니다.

또 지속적인 연구를 바탕으로 대응 방식을 강화하고 있다며, 최신 버전에는 더 강력한 안전 보호장치가 포함될 것이라고 답했습니다.

#ChatGPT #인공지능 #약물중독

연합뉴스TV 기사문의 및 제보 : 카톡/라인 jebo23

전소미(jeonsomi@yna.co.kr)