[AI리포터]
[디지털투데이 AI리포터] 오픈AI와 앤트로픽이 청소년 이용자 보호를 강화하기 위해 챗봇 운영 방식을 잇달아 조정하고 있다.
18일(현지시간) IT매체 더버지에 따르면, 두 회사는 각각 가이드라인 개정과 연령 감지 기술 도입을 통해 10대 사용자에 대한 안전장치를 확대하겠다는 방침이다. 이는 AI 챗봇이 청소년 정신 건강에 미치는 영향에 대한 우려와 규제 압박이 커지는 상황에서 나온 조치다.
오픈AI는 챗GPT의 행동 지침인 모델 스펙(Model Spec)을 개정해 13~17세 이용자를 위한 4가지 새로운 원칙을 도입한다고 밝혔다. 개정안은 청소년 안전을 최우선 가치로 삼고, 지적 자유 등 다른 목표와 충돌할 경우에도 보다 안전한 선택지를 제시하도록 규정했다. 또한 챗GPT가 오프라인 관계와 실제 지원을 장려하고, 청소년 이용자에게는 성인과 동일하게 대하지 않고 따뜻함과 존중을 바탕으로 응답하도록 명시했다.
 |
[디지털투데이 AI리포터] 오픈AI와 앤트로픽이 청소년 이용자 보호를 강화하기 위해 챗봇 운영 방식을 잇달아 조정하고 있다.
18일(현지시간) IT매체 더버지에 따르면, 두 회사는 각각 가이드라인 개정과 연령 감지 기술 도입을 통해 10대 사용자에 대한 안전장치를 확대하겠다는 방침이다. 이는 AI 챗봇이 청소년 정신 건강에 미치는 영향에 대한 우려와 규제 압박이 커지는 상황에서 나온 조치다.
오픈AI는 챗GPT의 행동 지침인 모델 스펙(Model Spec)을 개정해 13~17세 이용자를 위한 4가지 새로운 원칙을 도입한다고 밝혔다. 개정안은 청소년 안전을 최우선 가치로 삼고, 지적 자유 등 다른 목표와 충돌할 경우에도 보다 안전한 선택지를 제시하도록 규정했다. 또한 챗GPT가 오프라인 관계와 실제 지원을 장려하고, 청소년 이용자에게는 성인과 동일하게 대하지 않고 따뜻함과 존중을 바탕으로 응답하도록 명시했다.
이와 함께 앤트로픽도 유사한 보호 조치를 추진하고 있다. 앤트로픽은 자사 챗봇 클로드와의 대화 과정에서 이용자가 미성년자일 가능성을 시사하는 미묘한 대화 신호를 감지하는 시스템을 개발 중이다. 미성년자로 확인된 계정은 비활성화되며, 대화 중 스스로 미성년자임을 밝힌 이용자는 이미 별도로 표시되고 있다.
앤트로픽은 더 나아가 자살 및 자해 관련 질문에 대한 응답 훈련 방식과, 해로운 사고를 그대로 강화하는 아첨(sycophancy)을 줄이기 위한 노력도 공개했다. 회사는 최신 모델들이 지금까지 중 가장 낮은 수준의 아첨을 보였다고 평가했으며, 특히 하이쿠 4.5(Haiku 4.5) 모델은 이러한 행동을 37%의 경우에서 교정한 것으로 나타났다고 밝혔다.
<저작권자 Copyright ⓒ 디지털투데이 (DigitalToday) 무단전재 및 재배포 금지>
이 기사의 카테고리는 언론사의 분류를 따릅니다.