“해킹하면 최대 100만달러 보상”…AI 보안 강화 나선 기업들

애플, AI 처리하는 자체 서버 시스템
외부 전문가에 공개...취약점 찾게 해
앤스로픽도 자사 챗봇 허점 찾으면
최대 1만5000달러 보상으로 제공

애플의 ‘프라이빗 클라우드 컴퓨트(PCC)’에 대한 버그 바운티 프로그램 [출처 = 애플]

애플이 인공지능(AI) 컴퓨팅을 처리하는 자체 서버의 보안 허점을 찾는 전문가에게 최대 100만달러의 보상을 지급한다.

사용자의 데이터를 처리하는 AI 시스템의 정보 유출이나 학습에 대한 우려도 이어지는 가운데, 기업들이 외부 검증을 통한 안전성 강화에 주력하는 모양새다.

애플은 28일(현지시간) 자체 AI ‘애플 인텔리전스‘ 기능이 포함된 아이폰 운영체제(iOS) 18.1을 도입했다.

이에 앞서 지난 24일 애플은 AI 구동을 위한 ‘프라이빗 클라우드 컴퓨트(PCC)’에 대해 취약점을 찾는 외부 전문가에 최대 100만달러를 제공하는 보상 프로그램을 가동한다고 밝혔다.

PCC는 애플이 애플 인텔리전스를 구동하기 위해 구축한 시스템이다. 사용자가 애플 디바이스에서 AI 기능을 구동하면, 애플은 해당 요청을 판단해 간단한 기능은 디바이스 자체에서 처리하고, 복잡한 컴퓨팅이 요구되는 것은 PCC로 전송해 처리한다.

AI 기능을 사용할 때 사용자 데이터가 디바이스에만 머물지 않고 외부에 있는 애플의 서버로 이동하게 되는 만큼, 데이터 보안을 위해 애플이 이에 대한 외부 검증을 강화하는 것이다.

애플은 또한 외부 연구자들이 접근할 수 있는 가상 연구 환경(Virtual Research Environment·VRE)을 조성함으로써 이들이 PCC의 주요 소스코드와 기능 등을 자유롭게 검증할 수 있게 했다.

이 과정에서 애플은 이번 프로그램을 통해 의도하지 않은 데이터 유출, 외부 공격자가 PCC에 접근할 수 있는 취약점 등을 발견하는 연구자에게 최대 100만달러의 상금을 지급하는 버그 바운티 프로그램을 가동한다.

애플은 취약점의 종류에 따라 범주를 나누어 최소 5만달러에서 최대 100만달러로 상금을 구분했다.

애플의 AI ‘애플 인텔리전스’ 이미지 [사진 = 애플]

애플이 연구자들이 자사 플랫폼을 검증할 수 있도록 개방하고, 100만달러의 상금까지 내건 것은 그만큼 자사의 AI 서비스가 안전하다는 것을 강조하기 위함으로 풀이된다.

애플은 “우리는 사용자 개인정보 및 보안 침해 이슈에 많은 신경을 쓰고 있다”라며 “공개된 범주에 해당되지 않아도 PCC에 중대한 영향을 미치는 모든 보안 문제를 포상금 지급 대상으로 고려할 것”이라고 말했다.

AI 서비스와 관련된 이같은 버그 바운티 프로그램은 점차 확장되는 추세다.

버그 바운티란 서비스의 버그를 찾아 제보한 자에게 보상금을 제공하는 제도로, 주요 IT 기업들은 대부분 자체 버그 바운티 제도를 운영하며 외부 연구자들이나 개발자들을 통해 자사 서비스 결함을 보완해 나가고 있다.

챗GPT를 운영하는 오픈AI는 챗GPT의 버그를 제보하면 최대 2만달러의 대가를 지급하는 프로그램을 운영한다.

AI 모델 클로드를 개발한 앤스로픽도 지난 8월 최대 1만5000달러의 포상금을 제공하는 취약점 공개 프로그램을 시작했다.

앤스로픽의 프로그램은 챗봇을 악의적으로 사용해 화학·생물학·방사능·핵(CBRN)과 같은 고위험 정보에 접근하거나 사이버 공격에 활용하는 탈옥 공격을 방지하기 위함이다. 앤스로픽은 자사 AI 서비스의 오용을 방지하기 위해 이같은 프로그램을 마련하고 AI의 안전성을 강화하려는 것이다.

앤스로픽은 “버그 바운티 프로그램은 기술 시스템의 보안과 안전을 강화하는 데 중요한 역할을 한다”라며 “새로운 이니셔티브는 보편적인 탈옥 공격을 식별하고 완화하는 데 초점을 맞추고 있다”라고 설명했다.

[ⓒ 매일경제 & mk.co.kr, 무단 전재, 재배포 및 AI학습 이용 금지]