앤트로픽, 첨단 AI '투명성 프레임워크' 제안..."실효성 있는 안전 정책에 초점"

[박찬 기자]

앤트로픽이 첨단 인공지능(AI) 모델을 위한 맞춤형 개발 프레임워크를 공개했다. 각국의 본격적인 첨단 모델 규제 도입에 앞서, 기업 입장에서 먼저 기준 안을 내놓았다는 의미가 있다.

앤트로픽은 8일(현지시간) 고위험 AI 시스템을 공공 안전과 기업 책임 아래 개발하기 위해, 일시적 조치로 타깃형 투명성 프레임워크(Targeted Transparency Framework)를 도입할 것을 제안했다.

이는 유럽연합(EU)이 범용인공지능(GPAI)의 본격 규제를 앞두고 있고, 미국 각 주가 관련 규제을 준비하는 분위기 속에서 등장한 것이다. 규제 체제가 본격 가동하기 전까지 공백을 메우기 위한 선제적 대응이기도 하다.

특히 EU 등의 AI 법은 안전 문제를 넘어 저작권에 초점을 맞추거나 형식적이고 번거로운 보고를 요구하는 경우가 있다. 따라서 앤트로픽의 제안은 AI 안전 부분에만 포커스를 맞추고, 형식적인 부분보다 실효성이 있는 조치를 취해야 한다는 뜻을 담고 있다.

앤트로픽은 이번 프레임워크가 '프론티어 모델'로 분류되는 대규모 AI 시스템에만 적용되며, 연간 매출 1억달러 이상 또는 연간 R&D·설비투자 10억달러 이상의 기업은 주기적으로 모델을 점검해야 한다고 밝혔다.

즉, 고위험 모델에 대한 책임을 강화하면서 동시에 소규모 기업이나 독립 연구자들에게 불필요한 규제 부담을 지우지 않기 위한 것이다. 앤트로픽은 "AI 혁신을 저해하지 않도록 규제는 가볍고 유연해야 하며, 지나치게 처방적인 접근은 오히려 역효과를 낳을 수 있다"라고 밝혔다.

투명성 프레임워크는 프론티어 AI 모델의 안전을 확보하기 위해 '안전 개발 프레임워크(SDF)' 도입을 핵심으로 들었다. 이는 모델 배포 전에 AI 기업이 구축해야 할 위험 관리 체계다.

여기에는 보안 개발 프레임워크 구축 및 외부 공개 시스템 카드 공개 등과 같은 기본적인 사항을 포함했다. 또 안전 문제에 대한 기업의 허위 진술 금지와 내부 고발자 보호 체제를 갖춰야 한다고 강조했다.

구체적으로 첨단 모델을 개발하는 AI 기업은 화학·생물·방사선·핵(CBRN) 위협이나 자율 오작동 등 재앙적 위험에 대한 대응 방안을 포함해야 한다.

또 기업 웹사이트를 통해 SDF를 일반 공개하고, 시스템 카드에는 모델 테스트 절차, 평가 결과, 위험 완화 전략 등을 모델 출시나 주요 업데이트 시 공개해야 한다. 실제로 최근 오픈AI나 구글, xAI 등은 새로운 첨단 모델 공개 시 기본적인 시스템 카드조차 공개하지 않거나 늦게 발표하고 있다.

SDF를 성실히 이행했다는 자율 인증과 함께 구체적인 위험 완화 조치 내용을 명시해야 한다. 단, 민감하거나 기밀성이 요구되는 정보는 일부 수정이 가능하지만, 그 사유를 명확히 밝히고 해당 부분을 명시해야 한다.

SDF와 관련해 허위로 정보를 공개하는 것을 법적 위반으로 간주하며, 위반이 확인되면 법무부 장관이 민사 제재를 청구할 수 있는 권한을 가져야 한다고 주장했다.

다만, 기업이 자율적으로 문제를 바로잡을 수 있도록 위반 사항에 대해 30일의 시정 기간이 주자고 밝혔다. 이는 처벌보다는 개선을 유도하고, 기업이 스스로 책임을 이행하도록 유도하기 위한 것이다.

앤트로픽의 이번 제안은 미국은 물론 해외 기업이나 정책 입안자들이 참고할만한 사항이라는 평이다. 또 오픈AI나 구글, 마이크로소프트 등이 일부분만 적용 중인 '책임 있는 확장 정책(Responsible Scaling Policy)'을 의미있는 수준으로 확대한 것으로 볼 수 있다.

앤트로픽은 "강력한 AI 기술은 과학적 발견, 신약 개발, 공공 행정, 국가 안보 등 다양한 분야에서 혁신을 이끌 수 있는 잠재력을 지녔다"라며 "하지만 단 한번의 큰 실패로 수십년의 진보가 멈출 수도 있다. 따라서 지금 이 시점에서의 투명성과 안전 확보는 선택이 아닌 필수"라고 강조했다.

박찬 기자 cpark@aitimes.com

<저작권자 Copyright ⓒ AI타임스 무단전재 및 재배포 금지>