"AI가 피해 입히면 개발사 책임"... 미 캘리포니아주 규제법 추진 논란

하원 상임위 통과... 이달 주의회 가결 유력
"개발사에 책임 지우는 건 부당" 업계 반발

인공지능을 형상화한 이미지. 로이터 연합뉴스

미국 캘리포니아주(州)가 인공지능(AI) 시스템으로 인해 인명, 재산 피해 등이 발생할 경우 개발사에 책임을 지우는 규제 법안을 추진해 논란이 일고 있다. 캘리포니아주는 구글, 메타, 오픈AI 등 AI 경쟁을 선도하는 테크기업들의 본거지로, 이곳에서 제정된 법안은 다른 주와 연방 등에 가이드라인이 될 가능성이 커서 통과 여부에 관심이 쏠린다.

"주정부가 AI 관리감독"... 원안보단 완화

17일(현지시간) 미 뉴욕타임스(NYT) 등에 따르면 캘리포니아주 하원 예산위원회는 지난 15일 표결을 통해 '첨단 AI 시스템을 위한 안전과 보안 혁신법안'(S.B. 1047)을 통과시켰다. 이 법안은 기업들이 강력한 AI 기술을 대중에 공개하기 전 반드시 안전성을 테스트할 것을 의무화하고 있다. 또 AI 시스템이 사람을 사망에 이르게 하거나 5억 달러(약 6,770억 원) 이상의 피해를 발생시키는 등 문제를 일으킬 경우 AI 개발사가 책임을 져야 한다고도 규정했다.

예산위가 통과시킨 법안은 지난 5월 주상원에서 통과된 법안을 일부 수정한 것이다. 원안에는 AI의 안정성을 확보하기 위해 AI 규제 전담 기구를 신설하라는 내용이 담겨 있었는데, 수정안은 주정부가 관리감독을 하도록 했다. 원안은 또 AI 기업이 실질적인 피해를 발생시키지 않았더라도 안전 규정을 준수하지 않았다면 처벌할 수 있도록 했으나, 수정안은 피해가 실제로 생기거나 피해 발생이 임박했을 경우에만 처벌할 수 있도록 했다.

전체적으로 수정안은 원안보다 개발사들에 유리하게 수정된 것으로 평가된다. 법안을 발의한 스콧 위너(민주당) 의원은 "우리는 혁신과 안전 모두를 발전시킬 수 있다"며 "수정안이 업계의 큰 우려를 해결했다고 생각한다"고 말했다.

인공지능 챗봇 챗GPT 개발사 오픈AI의 로고. AP 연합뉴스

펠로시 "혁신에 해롭다" 반대 성명... 통과 불투명

그러나 업계는 강력 반발하고 있다. 수정된 법안 역시 여전히 개발사들에 AI 위험성에 대한 책임을 묻는다는 이유에서다. AI를 악의적인 목적으로 이용하는 사람이 아닌 개발사에 보상 책임을 지우는 것은 부당하다는 게 개발사들의 주장이다.

수정안이 예산위를 통과한 직후 주하원의원 8명은 개빈 뉴섬 주지사에게 거부권 행사를 요청하는 서한을 보냈다. 캘리포니아에서 19선을 한 낸시 펠로시 전 연방 하원의장도 성명을 내고 "우리는 캘리포니아가 소비자, 데이터, 지식 재산을 보호하는 방식으로 AI를 선도하기를 바란다"며 "그러나 법안은 그런 추구에 도움이 되기보다는 오히려 해롭다"고 비판했다.

NYT는 "민주당이 다수인 의회는 이달 말까지 이 법안을 통과시킬 것으로 예상된다"며 "그러면 지지 여부를 밝히지 않은 뉴섬 주지사에게 공이 넘어갈 것"이라고 전했다. 그러나 펠로시 전 의장이 공개적으로 반대 목소리를 내는 등 민주당 내에서도 우려가 적잖은 만큼 현재 내용으로 상·하원 문턱을 넘기는 어려울 것이라는 전망도 나온다.

실리콘밸리= 이서희 특파원 shlee@hankookilbo.com