오픈AI, GPT-4 후속 모델 훈련 돌입...“AGI 향한 한 걸음”

차세대 인공지능 모델 개발 예고
새로운 안전 및 보안 위원회 구성

샘 올트먼 오픈AI CEO

오픈AI는 차세대 GPT-4 모델에 대한 훈련을 시작했다고 28일 발표했다.

이날 오픈AI는 블로그를 통해 ‘오픈AI 이사회, 안전 및 보안 위원회 구성’이라는 성명을 발표했다. 오픈AI는 “차세대 프론티어 모델을 훈련하기 시작했다”면서 “그 결과물이 일반인공지능(AGI)으로 가는 길에 한 단계 높은 수준의 역량을 제공할 것으로 기대한다”고 강조했다. 이어 오픈AI는 “기능과 안전성 모두에서 업계를 선도하는 모델을 구축하고 출시하게 되어 자랑스럽지만, 이 중요한 순간에 활발한 토론을 환영한다”고 설명했다.

일반인공지능(Artificial General Intelligence AGI)은 마크 구부르드(Mark Gubrud) 노스캐롤라이나 대학교 교수가 1997년 저술한 ‘나노 기술과 국제 안보’라는 논문을 통해 자기 복제 시스템을 갖춘 군사 AI를 상상하며 제시한 것이 기원이다. AGI는 개념상 사람의 명령 없이도 사람의 지능 수준을 뛰어넘어 자율적으로 판단할 수 있는 꿈의 AI다.

오픈AI는 GPT-4.0터보를 이을 어떤 모델을 내놓을지에 대해선 함구했다. 하지만 모델은 문장, 이미지, 동영상, 음성 등 멀티모달 계보를 이을 것으로 보인다. 특히 오픈AI는 그동안 추론 능력을 사람 수준으로 끌어올리는 일반세계모델(General World Models)을 집중 연구하고 있다.

아울러 오픈AI는 새로운 모델과 미래 기술이 제기하는 위험을 다루기 위해 새로운 안전 및 보안 위원회를 구성한다고 말했다. 오픈AI는 “우리는 역량과 안전성 면에서 업계 최고인 모델을 개발하고 출시하게 되어 자랑스럽지만, 이 중요한 순간에 강력한 논쟁을 환영한다”고 말했다.

오픈AI가 새로운 모델을 훈련하는 동안, 새로운 안전 및 보안 위원회는 기술을 보호하기 위한 정책과 프로세스를 다듬기 위해 노력할 것이라고 말했다. 위원회에는 올트먼 CEO, 오픈AI 이사회 멤버인 브렛 테일러(Bret Taylor), 아담 디앤젤로(Adam D‘Angelo), 니콜 셀리그만(Nicole Seligman)이 포함된다. 이사진이 참여해 안전을 보장하겠다는 설명이다.

안전 정책은 현재부터 90일이 걸릴 것으로 내다봤다. 이달 초, 오픈AI는 공동 창립창업자이자 슈퍼얼라인먼트(Allignment) 팀을 이끈 일리아 수츠케버(Ilya Sutskever)가 회사를 떠나면서 안전 이슈에 봉착했다. 해당 팀은 또 다른 공동 창립자인 존 슐먼(John Schulman)이 이끌고 있다.

[ⓒ 매일경제 & mk.co.kr, 무단 전재, 재배포 및 AI학습 이용 금지]