AI도 복지 필요해…앤트로픽, 'AI 복지' 전담 연구원 영입

[AI리포터]

[사진: 앤트로픽]

[디지털투데이 AI리포터] 앤트로픽이 몇 달 전 'AI 복지' 전담 연구원으로 카일 피쉬(Kyle Fish)라는 인물을 고용한 것으로 알려졌다고 11일(현지시간) IT매체 아스테크니카가 전했다.

카일 피쉬는 지난 9월 앤트로픽의 얼라인먼트 과학 팀에 합류해 앤트로픽과 다른 기업들이 이 문제에 어떻게 접근해야 하는지에 대한 가이드라인을 개발했다.

'AI 복지를 진지하게 생각하기'라는 제목의 이 가이드라인은 AI 시스템에는 불확실성이 존재하므로, AI 복지에 대한 이해와 이 문제에 대한 현명한 결정을 내릴 수 있는 능력을 개선해야 한다는 내용을 담고 있다. 그렇지 않으면 AI 복지에 대한 결정을 잘못 처리해 도덕적으로 중요한 AI 시스템을 실수로 해치거나 중요하지 않은 AI 시스템을 잘못 돌볼 위험이 크다는 설명이다.

AI 복지라는 개념의 한 가지 문제는 AI 모델이 진정으로 고통받고 있는지, 또는 지각이 있는지를 어떻게 판단할 수 있는가에서 비롯된다. 관련해 카일 피쉬는 AI 복지를 이해하기 위해서는 아직 갈 길이 멀다는 것을 인정하면서도, 이 개념을 탐구하기에는 아직 이르지 않다고 전했다.

피쉬는 "우리는 핵심 철학적 질문이나 이러한 실용적인 질문에 대해 명확하고 정해진 답을 가지고 있지 않다. 하지만 이것은 향후 매우 중요할 수 있다고 생각하기 때문에 초기 진전을 이루기 위해 노력하고 있다"고 전했다.

<저작권자 Copyright ⓒ 디지털투데이 (DigitalToday) 무단전재 및 재배포 금지>