AI 안전 규제 놓고 뉴욕 충돌…부모 단체는 서명 촉구, 빅테크는 반발

[AI리포터]

[디지털투데이 AI리포터] AI 안전법을 둘러싼 논쟁이 뉴욕에서 뜨겁게 달아오르고 있다.

지난 12일(현지시간) IT매체 더버지에 따르면, 150명이 넘는 부모들이 캐시 호컬 뉴욕 주지사에게 책임 있는 AI 안전 및 교육법(RAISE Act)에 서명할 것을 촉구하는 서한을 보냈다.

RAISE 법안은 메타, 오픈AI, 딥시크, 구글 등 대형 AI 기업들을 대상으로 안전 계획 수립을 의무화하고, 안전 사고 발생 시 이를 투명하게 보고하도록 요구하는 내용을 담고 있다.

해당 법안은 이미 뉴욕주 상원과 하원을 모두 통과했으나, 최근 호컬 주지사가 일부 조항을 완화하는 개정안을 제안하면서 논란이 확산되고 있다. 개정안은 캘리포니아의 SB 53 법안과 유사하게 대형 기술 기업들의 부담을 줄이는 방향으로 조정될 가능성이 거론된다. 다만 법안이 유지되는 한, 대형 AI 기업을 별도로 규제하는 틀이 제도화된다는 점에서 업계에는 여전히 부담으로 작용하고 있다.

이 때문에 AI 기업들은 개정 논의에도 불구하고 법안 자체에 강하게 반발하고 있다. 메타, 인텔, 오라클 등을 회원사로 두고 있는 AI 얼라이언스(AI Alliance)는 해당 법안이 대형 AI 개발사를 명시적으로 규제 대상으로 삼고 안전사고 보고와 계획 공개를 의무화하는 점을 들어 비현실적이라며 뉴욕주 의원들에게 반대 서한을 전달했다.

반면 부모 단체들은 법안의 필요성을 거듭 강조하고 있다. 페어런츠투게더 액션(ParentsTogether Action)과 테크 오버사이트(Tech Oversight)가 주도한 이번 서한에는 일부 서명자들이 AI 챗봇과 소셜미디어의 부작용으로 자녀를 잃었다는 호소가 담겼다. 이들은 해당 법안이 모든 AI 개발자를 포괄적으로 규제하는 것이 아니라, 연간 수억 달러를 투입하는 소수의 대형 AI 기업만을 대상으로 한다는 점을 분명히 했다.

법안이 적용될 경우 해당 기업들은 대규모 안전사고를 주 법무장관에게 의무적으로 보고하고, AI 모델의 위험요소를 담은 안전 계획을 공개해야 한다. 또한 100명 이상의 인명 피해나 10억달러 이상의 재산·권리 손실을 초래할 가능성이 있는 고위험 AI 모델의 출시도 제한된다.

부모 단체들은 이 같은 장치가 과도한 규제가 아니라 최소한의 보호 장치라고 보고 있다. 과거에도 투명성과 책임이 충분히 마련되지 않은 상태에서 알고리즘 기반 소셜미디어가 확산되며, 청소년들의 정신 건강과 정서적 안정에 심각한 부작용이 나타났다는 점을 근거로 들고 있다. 이러한 문제의식 속에서 AI 안전과 기술 혁신 사이의 균형을 어떻게 설정할 것인지를 둘러싼 논쟁은 뉴욕을 중심으로 새로운 국면에 접어들고 있다.

<저작권자 Copyright ⓒ 디지털투데이 (DigitalToday) 무단전재 및 재배포 금지>