오픈AI, AI 기술 안전 약속 재확인…"엄격한 프로토콜 마련할 것"

[AI리포터]

오픈AI [사진: 셔터스톡]

[디지털투데이 AI리포터] 오픈AI가 인공지능(AI) 기술의 안전한 사용에 대한 약속을 재확인했다고 1일(현지시간) 블룸버그가 보도했다.

오픈AI는 앞서 민주당 상원의원인 브라이언 샤츠 상원의원 등 5명이 회사의 정책에 의문을 제기하며 보낸 서한에 답하며, AI 도구가 피해를 입히지 않도록 최선을 다하고 있다고 밝혔다.

제이슨 권 오픈AI 최고전략책임자(CSO)는 "우리의 임무는 AI가 모든 인류에게 혜택을 줄 수 있도록 하는 것"이라며 "모든 단계에서 엄격한 안전 프로토콜을 구현하기 위해 노력하고 있다"라고 말했다.

이어 "수년에 걸쳐 컴퓨팅 자원의 20%를 안전 관련 연구에 할당하겠다는 약속을 지킬 것"이라며 AI 사용의 안전성을 재차 강조했다. 또한, 오픈AI는 전·현직 직원에 대한 비방 금지 계약을 시행하지 않겠다고 약속했다. 이는 이전에 퇴사한 직원에 대한 오픈AI의 규정이 비정상적으로 제한적이라는 비판을 받은 뒤의 조치다.

최근 오픈AI는 새로운 사내 안전 및 보안위원회를 신설해 현재의 프로세스와 정책을 검토하고 있다. 회사는 안전에 대한 약속과 직원들에게 해당 주제에 대해 발언할 수 있는 권리를 부여하는지 등 여러 논란에 직면해 왔다.

앞서 오픈AI의 안전 관련 팀의 핵심 멤버들이 연달아 사임했으며, 장기 안전 위험 평가를 전담하는 팀의 리더였던 얀 라이케는 "회사가 안전보다 제품 개발을 우선시하고 있다"라는 우려를 공개적으로 표명하기도 했다.

<저작권자 Copyright ⓒ 디지털투데이 (DigitalToday) 무단전재 및 재배포 금지>