오픈AI, 안전위원회 독립 조직으로 분리…샘 올트먼 제외

AI 모델의 안전성을 높이기 위한 조치

안전위원회 의장에 카네기멜론대 지코 콜터 교수

[이데일리 김현아 기자] 오픈AI가 인공지능(AI) 모델의 안전을 검토하는 ‘안전 및 보안 위원회’를 독립적인 이사회 감독 조직으로 분리했다. 샘 올트먼 CEO는 위원회에서 제외됐다.

샘 올트먼 오픈AI 최고경영자(CEO). (사진=AFP)

오픈AI는 지난 16일(현지시간) 홈페이지를 통해 안전 및 보안 위원회의 독립 조직화를 발표하며, 카네기멜론대학교의 지코 콜터 교수가 의장을 맡게 된다고 밝혔다.

여기에서 보고된 내용에 따라 이사회는 모델 출시를 반대할 수도 있다. 하지만, 당시에는 알트먼 CEO 등 내부 직원 6명이 포함됐다. 위원회에는 애덤 드 안젤로 쿼라 CEO, 폴 나카소네 전 미국 육군 장군, 그리고 니콜 셀리그먼 전 소니 부사장이 포함된다.

이들은 모두 오픈AI 이사회 멤버로, 향후 AI 모델의 안전 문제를 심도 있게 검토하게 된다.

이번 위원회의 설립은 AI의 발전과 관련된 위험을 다루기 위해 추진됐으며, 이사회는 위원회의 권고에 따라 모델 출시를 연기할 수도 있다.

그러나 테크크런치 등 일부 외신은 올트먼 CEO가 제외됐음에도 불구하고, 여전히 이사회의 구성원들이 올트먼에 우호적인 성향을 보인다고 지적하고 있다.

이번 결정은 최근 오픈AI 내부의 직원 이탈과 미국 상원의원들의 정책에 대한 의문 제기와 관련이 있다. 지난 7월, 5명의 상원의원은 AI 안전 조치가 불충분하다고 비난하며 올트먼 CEO에게 서한을 발송했다. 이러한 외부의 압력이 오픈AI의 안전 체계 강화에 기여했음을 보여주는 대목이다.

오픈AI는 “향후 3개월 동안 차세대 AI 모델인 포론티아의 안전 문제를 다루게 될 것”이라고 설명하며, GPT-5 출시와 관련된 안전 문제에 대한 우려를 줄이기 위해 여러 가지 조치를 시행할 것이라고 강조했다.

한편 ‘안전 및 보안 위원회’는 모델 개발 및 배포에 대한 주요 안전 및 보안 조치를 감독한다. 구체적으로는 △독립적인 거버넌스 구축 △보안 강화 조치 △투명성 유지 △독립적인 테스트 및 안전 기준 추진을 위한 외부 기관과 협업 △안전 프레임워크 통합 등이다.