"오픈AI o1, 추론 능력 뛰어나지만"…위험성 경고

[AI리포터]

[디지털투데이 AI리포터] 오픈AI의 새로운 AI 모델 'o1'이 계획 수립 능력에서 뛰어나다는 평가를 받았다.

21일(현지시간) IT매체 비즈니스인사이더에 따르면 이는 튜링상 수상자이자 몬트리올대학교 교수인 요슈아 벤지오(Yoshua Bengio)의 평가다. 벤지오는 제프리 힌튼, 얀 르쿤과 함께 기계학습 부문에서 수상 경력이 있어 'AI의 대부'로 불리기도 한다.

벤지오는 o1이 "이전 모델보다 추론 능력이 훨씬 뛰어나다"면서도 속이는 능력이 매우 위험하다며 강력한 안전 테스트가 필요하다고 경고했다.

벤지오는 AI의 급속한 발전에 대한 우려를 표명하며 캘리포니아의 SB 1047과 같은 입법적 안전 조치를 옹호해 왔다.

아울러 AI 모델이 의도적이고 은밀하게 속임수를 쓰는 등 더 강력한 계획 능력을 개발할 수 있다며, 향후 인간의 통제력 상실을 막기 위해 지금 조치를 취해야 한다고 말했다.

<저작권자 Copyright ⓒ 디지털투데이 (DigitalToday) 무단전재 및 재배포 금지>