오픈AI, 일리야 수츠케버 사임에 'AI 안전장치' 연구 팀도 해체

오픈AI가 리더 중 한 명인 일리야 수츠케버 수석과학자의 사임과 함께 그가 이끌던 팀을 해체했다. 수츠케버는 오픈AI의 공동 창립자 중 한 명으로 인공지능(AI)의 급격한 발전에 따른 부작용을 우려하고 개발 속도를 늦춰야 한다고 주장하던 인물이다.

17일(현지시각) 오픈AI는 일리야 수츠케버가 퇴사함에 따라 그가 이끌던 슈퍼얼라인먼트(Superalignment) 팀을 해체했다. 일리야 수츠케버는 지난 15일 오픈AI CEO이자 자신이 11월 축출을 시도했던 샘 알트먼과의 개발 속도에 관한 견해 차를 이유로 퇴사했다.

해체 된 슈퍼얼라인먼트 팀은 수츠케버가 주도해 지난해 7월 꾸린 AI의 초지능(Super-Intelligence)를 제어하기 위한 안전장치를 연구하는 팀이다. AI 발전 속도에서 변곡점이 온 후에는 제어가 어려워질 것을 우려해 선제적으로 시스템 안전을 기획하고 보완하기 위한 연구를 진행했다. 오픈AI는 팀 결성 당시 컴퓨팅 성능의 20%를 슈퍼얼라인먼트 팀에 할당하겠다고 밝혔다. 수츠케버와 함께 팀을 꾸리고 연구해온 잔 레이케 또한 수츠케버와 함께 회사를 떠났다.

레이케는 사임 직후 18일 자신의 SNS를 통해 "슈퍼얼라인먼트는 매번 한정된 자원을 두고 싸워야만 했고 이 과정에서 어려움을 견뎌야 했다"고 썼다. 오픈AI 측은 이번 팀 해체와 관련해 "AI 안전과 관련해 앞으로 독립적인 팀 형태로 운영하는 대신, 회사의 내 관련 연구·개발 팀을 모두 통합해 역량을 강화할 것"이라고 밝혔으며 알트먼은 "(레이케의)말이 맞다. 우리는 할 일이 더욱 많기 때문에 어쩔 수 없었다"고 시인했다.

오픈AI의 수석과학자 자리는 제이콥 파츄키(Jakub Pachocki)가 맡기로 했으며 또 다른 공동 창업자 존 슐츠먼이 슈퍼얼라인먼트의 연구를 이어받을 예정이다.

레이케에 따르면 자신과 수츠케버의 퇴사는 AI 모델에 대한 회사의 '핵심 우선순위'의 견해 차 때문이다. 레이케는 "회사는 인간을 넘어선 AI의 위험성에 대해 충분히 우려하고 대비하지 않고 있으며, 안전 조치는 미흡하다"고 밝혔다.

한편, 수츠케버는 지난해 11월 알트만 CEO 축출 사건의 핵심 주동자로 알려졌다. 알트먼 축출 직후 770명에 달하는 오픈AI 직원 대부분이 알트먼을 복직시키지 않으면 사임하겠다는 서한에 서명하는 등 반발이 거세게 일어나자 그는 "후회한다"고 밝혔고 알트먼은 복직했다. 수츠케버는 이후 회사 내 역할에 대해 알려지지 않았으며 샌프란시스코 사무실에서의 근무 또한 중단한 것으로 알려졌다.