떨고있는 실리콘밸리 … 초강력 AI규제 통과 초읽기

전 세계 인공지능(AI) 연구를 주도하는 미국 실리콘밸리가 주 의회의 AI 규제에 떨고 있다. 진보 성향이 강하고 민주당이 우세한 캘리포니아주 의회가 테크 기업들의 AI 개발에 제동을 걸기로 하면서다. 전통적으로 진보 성향이 강했던 실리콘밸리는 이번 대선을 앞두고 민주-공화 지지자로 양분되는 모습을 보이고 있다.

12일(현지시간) 월스트리트저널(WSJ)에 따르면 캘리포니아주 하원은 이번주 상원을 통과한 AI 안전 법안, 일명 'SB1047'에 대한 표결을 진행할 예정이다. 캘리포니아 주 의회가 발의한 AI 안전 법안은 AI 모델을 개발하는 회사들이 기술로 인한 '치명적인 피해'의 위험을 줄이기 위해 반드시 안전 테스트를 하도록 강제하는 것이 골자다. 또한 AI가 인간에게 위해를 끼칠 경우 사람이 가동을 중단시킬 수 있는 장치를 만들어야 한다.

이 법안은 학습을 하는 데 특정 수준 이상의 컴퓨터 성능을 필요로 하고, 훈련에 1억달러 이상의 비용이 드는 AI 모델에 적용된다. 캘리포니아주에서 사업을 하는 모든 회사는 본사 소재지에 상관없이 적용되기 때문에 빅테크 기업들 대부분과 많은 AI스타트업들이 규제 대상에 해당된다.

마이크로소프트, 메타, 오픈AI, 앤스로픽 등 대부분 테크 회사들이 이에 대한 우려와 반대의사를 의회에 표시했다. 입법 반대 활동에 가장 적극적인 스타트업 액셀러레이터 Y콤비네이터의 루서 로 공공 정책 담당은 "이 법안이 그대로 시행된다면 캘리포니아의 혁신에 찬물을 끼얹을 것"이라고 WSJ에 말했다.

특히 법안에 모호한 부분이 많다는 것이 가장 큰 불만이다. 법안에서 요구하는 테스트가 무엇인지, 규정 준수를 감독할 새로운 위원회에 누가 포함될지 구체적으로 명시되어 있지 않기 때문이다. 마이크로소프트는 법안에 대한 반대의견에서 "법안의 규제를 뒷받침할 기본 요소가 아직 마련되지 않아 잘못된 투자, 잘못된 결과, 자원을 집중할 기회를 놓칠 위험이 있다"고 우려를 표시했다.

하지만 이 법안에 찬성하는 AI 연구자들도 있다. 구글에서 일하다 떠난 제프리 힌턴 토론토대 교수와 요슈아 벤지오 몬트리올대 교수 등은 법안에 찬성하는 서한을 개빈 뉴섬 캘리포니아 주지사에게 보내기도 했다.

주 정부 차원에서 AI를 직접 규제하는 것은 캘리포니아주가 처음은 아니다. 미국 콜로라도와 유타주는 최근 미국 최초로 AI를 규제하는 법안을 통과시켰지만 캘리포니아의 SB 1047에 비해 영향력이 크지 않다.

해당 법안은 민주당 상원의원인 스콧 위너 의원이 발의했으며 민주당이 약 80%의 의석을 차지하고 있는 상원을 쉽게 통과했다. 역시 민주당이 다수인 하원에서도 통과가 유력하다. 미국 전역의 주 의회에 상정되어 있는 AI 관련 법안만 400개에 달한다. 캘리포니아주에서도 30개의 법안이 상정되어 있다.

[실리콘밸리 이덕주 특파원]

[ⓒ 매일경제 & mk.co.kr, 무단 전재, 재배포 및 AI학습 이용 금지]