美 상원의원, 오픈AI에 안전한 AI 시스템 구축에 관한 정보 요구

브라이언 샤츠(Brian Schatz), 벤 레이 루한(Ben Ray Lujan), 피터 웰치(Peter Welch), 마크 R. 워너(Mark R. Warner), 앵거스 S. 킹 주니어(Angus S. King, Jr.) 등 미국 상원의원 5명이 샘 올트먼 오픈AI CEO에게 보낸 서한의 일부. 이들은 오픈AI가 지난해 여름 AI로 인해 인류에 해를 끼치지 않도록 하겠다는 약속 이행 방안에 대해 설명할 것을 요청했다. [자료=워싱턴 포스트(WP)]

미국 상원의원 5명이 오픈AI에 안전한 인공지능(AI) 시스템 구축에 관한 정보를 요구하는 서한을 보냈다고 워싱턴포스트(WP)가 23일(현지시간) 보도했다.

보도에 따르면, 브라이언 샤츠 민주당 상원의원을 필두로 민주당 의원과 무소속 의원 등 5명이 서한을 작성했다.

이들은 “오픈AI는 AI 선도 기업으로서 대중이 시스템의 안전과 보안을 신뢰할 수 있도록 해야 한다”며 “회사의 지배 구조, 안전 테스트의 무결성, 고용 관행, 공약 및 사명에 대한 충실성, 사이버 보안 정책 등을 서한에 포함시켰다”고 말했다.

이들은 이 같은 내용을 포함한 13가지 사항에 대한 답변을 8월13일까지 공개할 것을 요구했다.

요구 사항은 △컴퓨팅 리소스의 20%를 AI 안전 연구에 할애하겠다는 약속 이행 방안 △직원이 사이버 보안 및 안전 문제를 제기할 수 있는 절차 △독립적 전문가들이 AI 모델 출시 전 시스템의 안전성과 보안을 평가할 수 있도록 할 것인지 여부 △모델 배포 전 테스트, 검토, 분석, 평가 등을 위해 미국 정부 기관 해당 모델을 사용할 수 있도록 할 것인지 여부 등이다.

이들이 작성한 서한은 오픈AI가 지난해 7월 백악관에 기술 안전성 테스트를 진행해 인류에 피해를 주지 않도록 하겠다고 한 약속이 제대로 이뤄지지 않은 것에서 비롯됐다.

오픈AI는 이윤 추구에 집중해 안전은 뒷전이라는 비판을 받아왔다.

5월 해체된 오픈AI 안전팀 '슈퍼 얼라인먼트' 구성원들은 “오픈AI가 안전보다 이익을 우선시하고 있다”고 비판하며 올해 초부터 줄줄이 퇴사했다.

6월에는 오픈AI와 구글 딥마인드의 전현직 직원 13명이 AI의 위험을 경고하며 “이러한 위험은 이윤을 추구하는 기업이 자체적으로 해결할 수 없어 위험 우려가 공유될 수 있도록 내부 고발자에 대한 보호 조치가 마련돼야 한다”고 강조했다.

지난 13일에는 오픈AI 일부 직원들이 연방거래위원회(SEC)에 서한을 보내 “내부고발에 나선 이들이 오픈AI 기술이 인류에 미칠 수 있는 위험을 규제 당국에 신고하지 못하도록 오픈AI가 불법적으로 금지했다”고 주장했다.

현대인 기자 modernman@etnews.com

[Copyright © 전자신문. 무단전재-재배포금지]