오픈AI, '대비팀' 구성해 AI 위험 막는다

[AI리포터]

오픈AI [사진: 셔터스톡]

[디지털투데이 AI리포터] 오픈AI가 인공지능(AI) 기술의 위험에 대처하기 위한 계획을 발표했다.

18일(현지시간) 워싱턴포스트(WP)에 따르면 오픈AI는 미 매사추세츠 공과대학교(MIT)의 알렉산더 매드리(Aleksander Madry) AI 교수가 이끄는 대비팀(Preparedness)을 구성했다.

대비팀은 AI 연구원, 컴퓨터 과학자, 국가 안보 전문가 및 정책 전문가를 고용해 기술을 모니터링하고 지속적으로 테스트하며 AI 기능이 발전하고 있다고 판단하면 회사에 경고할 예정이다.

올 초 오픈AI에 합류한 매드리는 지난 11월 샘 알트먼 최고경영자(CEO)가 이사회로부터 해고되자 사임한 오픈AI 리더 그룹 중 한명이기도 했다. 오픈AI는 새로운 이사회 멤버를 선출하는 중이다.

현재 대비팀은 회사가 큰 위험에 대처하는 방법을 이해하는 데 도움을 줄 수 있는 AI 업계 외부의 국가 보안 전문가를 채용하고 있다. 또한 팀은 정기적인 조사를 통해 AI가 사람들에게 컴퓨터를 해킹하거나 위험한 화학, 핵무기를 만들도록 지시하는 방법과 시기를 모니터링할 예정이다.

매드리는 "(AI 개발의) 가속과 감속의 프레임이 매우 단순하다고 생각한다"며 "AI에는 수많은 장점이 있지만, 그 장점이 실제로 실현되고 단점이 발생하지 않도록 하는 작업도 필요하다"고 전했다.

<저작권자 Copyright ⓒ 디지털투데이 (DigitalToday) 무단전재 및 재배포 금지>