앤트로픽, 클로드 AI 헌법 개정…윤리·안전 강화

[AI리포터]

[사진: 앤트로픽]

[디지털투데이 AI리포터] 앤트로픽이 챗봇 클로드의 윤리 기준과 행동 원칙을 담은 '클로드의 헌법' 개정판을 공개했다.

21일(현지시간) IT매체 테크크런치에 따르면, 앤트로픽은 세계경제포럼(WEF) 다보스 회의에 맞춰 클로드가 작동하는 맥락과 지향하는 AI의 정체성을 설명하는 헌법 문서를 수정·발표했다.

앤트로픽은 인간 피드백 대신 명시적인 윤리 원칙을 기반으로 AI를 학습시키는 '헌법적 AI' 방식을 통해 차별화를 시도해 왔다. 2023년 처음 공개된 클로드의 헌법은 이번 개정을 통해 기존 원칙을 유지하면서도 윤리와 사용자 안전에 대한 설명을 보다 구체적으로 보완했다.

개정 문서는 약 80쪽 분량으로, 안전, 윤리적 고려, 제약, 유용성 등 네 가지 핵심 가치로 구성돼 있다. 안전 항목에서는 생명에 위협이 되는 상황이나 정신 건강 문제가 감지될 경우 이용자를 적절한 지원 기관이나 응급 서비스로 안내하도록 설계됐으며, 생물무기 개발과 같은 특정 주제에 대한 대화는 금지된다고 명시했다.

또한 문서는 클로드가 이용자의 즉각적인 요구뿐 아니라 장기적인 안녕과 복지를 고려해 정보를 제공하도록 설계됐다고 설명했다. 헌법 말미에서는 AI 모델의 도덕적 지위와 의식 가능성에 대해 여전히 불확실하지만 진지하게 검토할 가치가 있는 문제라고 언급했다.

<저작권자 Copyright ⓒ 디지털투데이 (DigitalToday) 무단전재 및 재배포 금지>