AI 업계 벌벌 떨게 만든 ‘캘리포니아 SB 1047’...더 센 규제 나올까

[WEEKLY BIZ] [Weekly Biz 5Q] AI 셧다운 버튼 의무화 등 담았지만 주지사 거부권으로 좌초

WEEKLY BIZ 뉴스레터 구독하기 ☞ https://page.stibee.com/subscriptions/146096

그래픽= 김의균·Dall-E

마치 폭격이라도 맞은 것처럼 미국 국방부 청사(펜타곤)에 검은 연기가 치솟는 사진이 지난해 5월 온라인을 달궜다. 이 모습이 빠르게 퍼진 직후 다우평균이 4분 동안 80포인트 가까이 급락하고 금·국채 가격이 요동치기도 했다. 그런데 알고 보니 이 ‘펜타곤 폭발’은 인공지능(AI)이 만들어낸 ‘가짜’로 판명 났다.

AI 기술이 빠르게 발전하며 각종 부작용도 커지는 가운데 AI를 법으로 규제할지, 한다면 어느 수준이 좋을지 고심이 커지고 있다. 특히 AI 업계는 지난 8월 민주당 우위의 캘리포니아주(州) 의회에서 통과된 AI 규제 법안 ‘SB 1047’에 대해 경계심이 컸다. 미국 최초의 AI법이 될 뻔한 이 법안은 주지사의 거부권 행사로 결국 좌초됐지만 AI의 성지(聖地)라 불리는 캘리포니아가 다른 지역보다 선도적으로 AI 업체에 대해 사전적·사후적 규제를 엄격히 규정하려 시도한 법안이라 큰 주목을 받았다. 미국 AI 규제의 시금석처럼 여겨졌던 SB 1047을 두고 일어난 논란을 잘 훑어보면, 난맥상이 무엇인지를 대략 파악해볼 수 있다. SB 1047이 무슨 내용을 담았고 어떤 중요성을 가지는지 WEEKLY BIZ가 다섯 문답으로 정리했다.

그래픽=김의균

◇1. SB 1047은 어떤 내용을 담았었나

이 법안의 공식 명칭은 ‘첨단 AI시스템을 위한 안전과 보안 혁신법안’이다. 이름이 길어 캘리포니아 주의회에서 붙인 의안 번호 ‘SB 1047’로 부르곤 했다. AI 모델이 ‘재앙적 피해’를 일으킬 위험을 줄이기 위해 개발자에게 배포 전 안전 테스트를 의무화하고, 5억달러(약 7000억원) 이상의 피해 또는 사망 사고와 같은 심각한 문제를 일으키는 경우 개발업체가 책임을 지도록 규정한 게 핵심 내용이었다. 또 위급한 상황에 AI를 중단시킬 수 있는 ‘킬러 버튼’을 개발 업체가 반드시 구비할 것을 요구하기도 했다. 다만 이 법은 훈련 비용이 1억달러가 넘는 고성능 AI 모델에만 적용하도록 한정했다. 스타트업 등 신생 기업들이 이끄는 AI 사업에 대해서는 책임을 묻지 않지만, 이미 AI 시장을 선점하고 있는 빅테크에는 훨씬 엄격한 기준을 요구하겠다는 뜻이다.

캘리포니아 법무장관은 만약 이 법안을 준수하지 않는 기업이 있다면 민사소송을 제기하는 것도 가능했다. 본사 소재지에 상관없이 캘리포니아주에서 사업하는 모든 회사를 적용 대상으로 삼았다. 이에 실리콘밸리에서 사업을 영위하는 빅테크들이 대부분 규제 대상에 포함됐다.

◇2. 결국 좌초된 까닭은

개빈 뉴섬 캘리포니아 주지사가 지난 9월 29일, 주 의회가 이 법안을 통과시킨 지 약 한 달 만에 거부권을 행사해서다. 뉴섬 주지사는 성명을 내고 “돈이 많이 들어갔다는 이유만으로, 가장 기본적인 기능에까지 엄격한 책임을 묻는 법안은 타당하지 않다고 생각한다”고 밝혔다. 빅테크 기업들이 애초에 AI가 끼칠 잠재적 위험과 피해의 양상까지 예측하기는 쉽지 않은데, 이를 예방하지 못했다며 잘못을 따진다면 오히려 역차별 요소가 있다는 얘기다.

주지사가 거부권을 행사해도 캘리포니아 주의회에서 3분의 2 이상이 다시 찬성하면 SB 1047을 재의결하는 게 가능하지만, 주지사와 의회 모두 민주당이 장악해 온 캘리포니아의 경우 1979년 이후 그런 극단적인 입법 갈등은 단 한 번도 일어난 적이 없다. 곧 다가오는 내년에 새로운 의회가 구성되니, SB 1047은 사실상 폐기된 셈이다.

뉴섬 주지사의 거부권 행사 이면엔 빅테크 기업들의 강력한 로비가 있었을 것이란 분석도 적잖다. AI 프로그램이 조금이라도 개입된 모든 범죄에 대한 책임을 개발자에게 묻는다면, AI 프로그램의 혁신은 사라질 것이라고 반발한 AI 업계의 주장을 그대로 받았기 때문이다. 반면 AI의 위험성을 경고해 오던 석학들과 시민 단체들은 뉴섬 주지사 때문에 AI 규제의 속도가 더뎌졌다며 강한 유감을 표했다.

◇3. AI 규제, 당장 안 하면 큰일 나나

학계에서는 최근 몇 년간 AI 발전 속도가 너무 빨랐고, 그로 인한 폐해가 이미 선을 넘었다고 경고한다. 올해 노벨물리학상·화학상 등 노벨상 주요 부문을 휩쓴 AI 연구자들이 수상 소감에서 역설적으로 AI에 대한 경계의 목소리를 내 화제가 되기도 했다. 노벨물리학상 수상자이자 ‘AI의 대부’라 불리는 제프리 힌턴 캐나다 토론토대 교수는 “정부가 할 수 있는 방안은 빅테크가 AI 안전 연구에 더 많은 자원을 투자하도록 강제하는 것”이라며 AI 규제 법안의 시급성을 강조했다.

그러나 앞서 소개한 규제의 어려움과 첨예한 찬반 양론 때문에 실제로 세계 각국 의회에선 입법 작업이 매우 더딘 상황이다. 조 바이든 정부는 지난해 10월 ‘AI 행정명령’을 통해 정부 차원에서 할 수 있는 최대한의 규제를 시도했지만, 이런 방안들이 연방의회에서 법률 제정으로 이어지지는 못했다.

◇4. 캘리포니아 말고 AI 규제법을 도입한 곳은 없나

유럽연합(EU)이 지난 5월 세계 최초로 ‘AI법(AI act)’을 최종 승인했다. AI법은 AI 기술을 수용 불가능한 위험, 고위험, 제한된 위험, 최소 위험 등 4등급으로 구분해 차등 규제하는데, 이 분류 작업은 ‘EU AI 위원회’가 총괄한다. 차등 규제는 사회에 부정적 영향을 줄 위험이 클수록 더 엄격하게 규제한다는 취지다. 이에 따라 AI를 활용해 안면인식 데이터베이스를 만들거나, 생체 정보를 수집해 인종과 정치 성향 등을 추론하는 서비스를 하는 것 등이 12월부터 EU 역내에서 전면 금지된다. 이를 어기면 해당 기업에 3500만유로(약 516억원) 또는 글로벌 매출의 7% 중 더 높은 금액의 벌금을 매길 수 있다.

대규모 AI 모델의 안전성에만 초점을 맞춘 캘리포니아의 SB 1047과 비교해 보면, 차등 규제를 통해 AI 기술 전반을 촘촘히 규제한 EU의 AI법이 훨씬 더 포괄적이고 강력한 입법이라는 평가를 받는다. EU와 비슷한 구조의 법안이 미국에서마저 통과되면 AI 기업들이 심하게 반발할 것이 예상돼, 미국 각 주에서는 이보다는 수위를 낮춘 법안이 제출되고 있다. 현재 AI 기업들을 겨냥한 포괄적인 규제 법안을 통과시킨 미국 주로는 콜로라도와 유타가 있다.

◇5. 트럼프 2기 정부, AI 규제의 방향성은

일단 IT 업계에서는 AI 규제가 느슨해질 것이란 기대가 크다. 도널드 트럼프 대통령 당선인은 이미 대선 공약으로 바이든 정부의 ‘AI 행정명령’을 폐지하겠다고 밝혔는데, 취임 즉시 이를 행동에 옮길 것이라는 예측이다. 또 트럼프는 전 세계적인 AI 협력, AI의 윤리적인 활용 같은 골치 아픈 문제에 귀 기울이기보다는 ‘미국 중심의 AI 정책’에 중점을 두고 규제 철폐에 앞장설 가능성이 크다는 분석도 있다. 실리콘밸리 출신인 JD 밴스가 부통령으로 백악관에 입성한 것도 이들의 기대감을 키우는 중요한 요소 중 하나다.

반면 우려하는 목소리도 있다. 일론 머스크 테슬라 최고경영자(CEO) 때문이다. 트럼프 2기 정부의 최고 실세라 일컬어지는 머스크는 대표적인 AI 규제론자 중 한 명이다. 그는 빅테크 위주의 AI 개발이 가져올 위험성을 경고하며 모든 인류를 위한 범용 AI 개발의 중요성을 강조해왔다. 머스크가 작정하고 AI 규제가 필요하다는 목소리를 내면, 트럼프 역시 영향을 받을 수밖에 없다는 해석이다.

WEEKLY BIZ 뉴스레터 구독하기 ☞ https://page.stibee.com/subscriptions/146096

[류재민 기자]

- Copyrights ⓒ 조선일보 & chosun.com, 무단 전재 및 재배포 금지 -