안전팀 해체했었는데…오픈AI, 새로운 안전·보안위원회 구성

[AI리포터]

[사진: 오픈AI]

[디지털투데이 AI리포터] 오픈AI가 새로운 사내 안전 및 보안위원회를 구성했다고 28일(현지시간) IT매체 아스테크니카 등 주요 외신이 보도했다.

새로운 안전보안위원회는 샘 알트먼 최고경영자(CEO)와 브렛 테일러 오픈AI 이사회 의장을 비롯해 애덤 단젤로, 니콜 셀리그만 이사 등이 이끌 전망이다. 이들은 인공지능(AI) 기술의 안전에 관한 권고안을 회사 전체 이사회에 제시하는 역할을 담당할 것으로 보인다.

아울러 위원회는 향후 90일동안 회사의 프로세스와 안전장치 등을 평가하고 개선해 나가는 것을 첫 임무로 맡을 계획이다. 해당 기간이 끝나면 위원회는 전체 이사회와 권고안을 공유, 오픈AI는 채택된 권고안에 대한 개선 방안을 공개적으로 공유해야 한다.

이번 발표는 앞서 오픈AI가 AI 기술에 관한 장기적 위험을 연구하는 슈퍼얼라인먼트(superalignment) 팀을 해체한 후 나온 것으로 더욱 주목된다. 당시 팀을 이끌었던 수석 개발자 일리야 수츠케버와 얀 라이크는 회사를 떠난 바 있다. 얀 라이크는 최근 경쟁사인 앤트로픽에 합류했다는 소식도 함께 전해져 더욱 관심을 더했다.

오픈AI는 이날 차세대 AI 모델 훈련에 본격 돌입했다고 발표하며 새로운 안전보안위원회의 필요성을 부각하기도 했다.

<저작권자 Copyright ⓒ 디지털투데이 (DigitalToday) 무단전재 및 재배포 금지>