AI도 상품처럼 ‘안전성’ 검증…역대급 AI규제 서명만 남았다

게빈 뉴섬 캘리포니아 주지사. <사진=게빈뉴섬 X계정>

미국 캘리포니아주 하원이 강력한 인공지능(AI) 규제법을 통과시켰다. 주지사 승인만 통과하면 미국에서 가장 강력한 AI규제 법안이 통과된다.

뉴욕타임스는 28일(현지시간) 오후 캘리포니아주 하원이 표결을 거쳐 법안 SB1047을 압도적인 숫자로 통과시켰다고 밝혔다. 절차상 주 상원에서 표결을 거치지만 상원에서 먼저 통과한 후 내려온 것이기 때문에 무난히 통과 될 것으로 예상된다. 결국 주지사의 최종 승인 만 남은 것이다. 게빈 뉴섬 캘리포니아 주지사는 9월30일까지 이 법을 통과시켜야한다.

해당 법안은 인공지능 기업이 AI를 대중에게 공개하기 전에 안전성을 테스트하는 의무를 부과하고, AI로 인해 사망이나 재산 피해와 같은 심각한 피해가 발생하면 주 법무부는 기업에게 소송을 제기할 수 있다는 내용을 담고 있다.

이 법안이 통과되면 미국에서 최초로 AI를 규제하는 강력한 법안이 된다. 캘리포니아주에 사무소를 둔 모든 기업이 해당되기 때문에 대부분의 테크 기업들이 규제를 받게된다.

테크업계도 이 법안에 대해 찬반이 나눠져있다. 앤스로픽, 오픈AI, 메타 등 대표적인 AI기업은 법안에 반대의견을 밝혔다. 반면, 일론 머스크 테슬라 CEO는 자신의 X를 통해서 찬성을 표시했다. 그는 xAI라는 기업을 통해 AI를 개발하고 있다. 또한 제프리 힌튼 토론토대 교수 , 요슈야 벤지오 몬트리얼대 교수 등 학계에서도 찬성을 표시하고 있다.

캘리포니아 정치인들도 의견이 갈리고 있다. 낸시 펠로시 전 하원의장, 런던 브리드 샌프란시스코 시장은 법안에 반대의사를 표시했지만 많은 진보성향 정치인들은 찬성의사를 밝히고 있다.

법안을 발의한 민주당의 스콧 위너 상원의원은 “주 의회는 신기술로 부터 공공의 이익을 보호하기 위해 선제적이고 역사적인 조치를 취했다”며 법안을 높게 평가했다.

결국 법안은 장기적으로 대통령을 꿈꾸는 게빈 뉴섬 주지사의 정치적인 결단에 따라 결정될 것으로 보인다. 캘리포니아에는 진보적인 유권자들도 많지만 테크기업의 갑부들이 정치인들의 중요한 후원자이기 때문이다. 뉴섬 주지사는 해당법안에 대한 의견을 아직 밝히지 않고 있다.

[실리콘밸리=이덕주 특파원]

[ⓒ 매일경제 & mk.co.kr, 무단 전재, 재배포 및 AI학습 이용 금지]