챗GPT 극단선택 악용에 “자녀 보호 기능 마련”

오픈에이아이(AI)가 부모 통제 기능을 도입한다. 로이터 연합뉴스

오픈에이아이(AI)가 생성형 인공지능 챗지피티(GPT)에 이용자 보호를 위한 ‘부모 통제 기능’을 추가한다. 최근 미국에서 한 소년이 극단적 선택을 하는 과정에서 챗지피티를 이용해 방법 등의 정보를 얻은 것으로 알려지면서 관련 위험성이 제기된 데 따른 조처다.

오픈에이아이는 2일(현지시각) 자사 블로그에 부모자 직접 자녀 계정을 관리할 수 있는 부모 통제 기능을 오는 10월께 도입할 예정이라고 밝혔다. 이를 통해 부모는 자신의 계정을 자녀의 계정과 연동해 메모리(챗지피티가 사용자 정보를 저장해 두는 공간)와 채팅 기록 등을 관리할 수 있게 된다. 자녀의 채팅에서 이상징후가 감지되면 알림을 받을 수도 있다.

이용자가 챗지피티를 통해 위험하거나 민감한 대화를 할 경우, 이를 감지해 응답 모델을 전환하는 방안도 마련했다. 극단적 선택 등의 대화가 감지되면 응답 모델이 ‘기본 모델’에서 더욱 연산을 거쳐 답을 내놓는 ‘추론 모델’로 전환되는 방식이다. 오픈에이아이는 “추론 모델이 더 안정적으로 안전 지침을 따르고, 적대적 프롬프트에 잘 저항한다는 사실을 확인했다”고 설명했다. 적대적 프롬프트란 챗지피티 같은 대형 언어 모델의 안전장치를 회피하거나 무력화하기 위한 사용자의 명령을 말한다.

이번 대책은 최근 미국에서 10대 청소년이 챗지피티를 통해 얻은 방법으로 극단적 선택을 한 일이 불거지면서 마련됐다. 지난달 26일(현지시각) 뉴욕타임스 등 외신 보도를 보면, 앞서 지난 4월 미국 캘리포니아주에 사는 아담 레인(16)이 챗지피티와 극단적 선택 방법에 관한 대화를 나눈 뒤 숨진 채 발견됐다. 이에 이 소년의 부모는 오픈에이아이와 샘 올트먼 오픈에이아이 최고경영자를 상대로 손해배상 소송을 냈다.

오픈에이아이는 청소년 정신건강 문제를 해결하기 위해 전문가 집단과 협업하고 있다고도 밝혔다. 오픈에이아이는 “청소년 발달, 정신 건강, 인간-컴퓨터 상호작용 분야의 전문가로 꾸려진 웰빙 및 인공지능 전문가 위원회를 올해 초 소집하기 시작했다”고 했다. 위원회에서 낸 의견은 챗지피티 사용자 보호장치 설계 등에 반영된다.

의료진 협력도 강화한다. 오픈에이아이는 “60개국에서 250명 이상의 글로벌 의료진과 협력하고 있다”며 “섭식장애, 약물사용, 청소년 건강 등 분야에 전문성을 가진 임상 의사와 연구자를 네트워크에 더 추가하고 있다”고 밝혔다.

채반석 기자 chaibs@hani.co.kr

▶▶[한겨레 후원하기] 시민과 함께 민주주의를!

▶▶민주주의, 필사적으로 지키는 방법 [책 보러가기]

▶▶한겨레 뉴스레터 모아보기