개발 주도권 상실 두려웠나… 미국 캘리포니아 주지사, AI 규제 입법 제동

뉴섬, 서명 시한까지 끌다 막판 거부권
“실제 위험 고려 안 돼”… 로비 통한 듯

개빈 뉴섬 미국 캘리포니아 주지사가 지난 3월 21일 로스앤젤레스에서 기자회견을 하고 있다. 로스앤젤레스=AP 연합뉴스

인공지능(AI) 기술 개발 중심지인 미국 캘리포니아주(州)의 개빈 뉴섬 주지사가 개발 업체에 무거운 책임을 부과하는 AI 규제 입법에 제동을 걸었다. 업계 로비가 통했다는 분석이 나온다.

미 민주당 소속인 뉴섬 주지사는 29일(현지시간) AI 규제 법안인 ‘SB 1047’에 대해 거부권을 행사했다. 주 의회가 8월 28일 해당 법안을 통과시킨 지 한 달여 만이다. 서명 시한(30일)을 하루 앞두고 거부권을 행사한 뉴섬 주지사는 “(법안의) 규제가 가장 크고 비싼 AI 모델에만 적용될 뿐, 그 모델이 실제 위험한 상황에 사용되는지는 고려되지 않았다. 작은 AI 모델도 전력망이나 의료 기록 같은 민감한 데이터가 포함된 의사 결정을 처리하는 경우가 있다”고 이유를 설명했다.

그러면서 “대규모 재난 발생 전에 대책을 마련해야 한다는 법안 지지자들 주장에 동의하지만 규제는 과학적·실증적인 증거에 기반해야 한다”고 덧붙였다. 더불어 새 법안을 만들기 위해 페이페이 리 미국 스탠퍼드대 교수 등 선도적인 AI 연구자들과 협력 중이라는 사실도 소개했다.

거부권이 행사된 이번 법안은 △AI 모델 배포 전 개발자 측의 안전 테스트 의무화 △AI 시스템으로 5억 달러(약 6,550억 원) 이상 재산 피해나 대규모 사망 사고 발생 시 개발 업체에 책임 부과 등을 담았다. 또 △통제가 어려울 때 AI 작동을 멈추게 하는 ‘킬 스위치’ 도입 요구 △규정 미준수 시 주 법무장관의 소송 제기 등을 위한 근거도 마련했다. 다만 적용 대상은 훈련 비용이 1억 달러가 넘는 고성능 AI 모델로 제한했다.

구글, 메타, 마이크로소프트(MS), 오픈AI 등 주요 AI 개발 업체들은 해당 법안과 관련, “기술 혁신 속도를 늦출 것”이라며 입법에 반대했다. “(기술이) 심각한 피해를 일으키거나 가능하게 할 지나친 위험” 같은 AI 모델 출시 금지 조건이 너무 모호한 것 아니냐는 게 핵심 이유였다. 실리콘밸리의 유명 벤처캐피털(VC) 앤드리슨 호로비츠의 마틴 카사도 총괄 파트너는 미국 월스트리트저널(WSJ)에 “아무도 그게 무슨 뜻인지 모른다”고 말했다.

뉴섬 주지사의 '제동'은 업계의 손을 들어준 것이라는 평가가 많다. 영국 파이낸셜타임스는 “(법안은) 현재 기술 개발에서 캘리포니아가 행하는 주도적 역할을 위협할 수 있다”며 업계의 입법 저지 로비가 강했다고 전했다. 실제 오픈AI는 “캘리포니아의 세계적 엔지니어와 기업가들이 다른 곳으로 떠날 것”이라는 경고 서한을 뉴섬 주지사에게 보내기도 했다. 그러나 WSJ는 “업계 최고 기업들이 캘리포니아에 모여 있는 만큼, 뉴섬이 법안에 서명했다면 규제의 토대가 만들어졌을 것”이라고 지적했다.

다만 오·남용 가능성 차단을 위해 두뇌 등의 ‘신경 데이터’도 얼굴 이미지, 유전자(DNA), 지문처럼 민감한 개인 정보로 간주하는 개인정보보호법 개정안에는 뉴섬 주지사가 28일 서명했다. 현재 메타·애플 등 ‘빅테크’가 방대한 뇌 신경 정보를 수집할 수 있는 장치의 개발에 착수한 상태다.

워싱턴= 권경성 특파원 ficciones@hankookilbo.com