지지부진 ‘AI 기본법’ 통과 초읽기… 막판 변수 된 ‘고위험 AI’ 규제

그래픽=정서희

국내 인공지능(AI) 산업 육성과 윤리적 활용을 위한 ‘AI 기본법’이 연내 통과를 목표로 국회에서 논의되고 있다. 정치권은 AI 기본법 제정의 필요성을 공감하면서 논의에 나섰지만, 고위험 AI 규제를 둘러싼 쟁점이 법안 통과의 주요 변수로 작용하고 있다.

◇ AI 기본법, 고위험 규제 명확화와 처벌 조항 신설

지난 21일 국회 과학기술정보방송통신위원회는 법안소위에서 AI 기본법으로 상정된 20여 개 법안을 병합 심사한 뒤 통과시켰다. 이르면 오는 27일 전체회의에서 의결해 법제사법위원회(법사위)로 넘길 예정이다. 연내 법사위와 국회 본회의를 통과하면, 국내 AI 생태계 발전의 새로운 출발점이 열리게 된다.

AI 기본법은 AI의 법적 정의를 명확히 하고, 산업 육성과 규제 방향의 뼈대를 마련하는 데 초점을 맞췄다. 법안 소위에선 기존 논의에서 빠졌던 금지 AI 규정을 제외하는 대신, 고위험 AI에 대한 사업자 책임을 명확히 했다. 고위험 AI란 사람의 생명, 신체 안전, 기본권 보호 등에 중대한 영향을 미칠 우려가 있는 AI를 의미한다. 법안에서는 기업이 개발한 서비스가 고위험 AI에 해당하는지 과기정통부 장관에게 확인·요청하는 절차를 마련했다.

특히 최근 발의된 일부 법안에서는 규제 범위를 더 촘촘히 설정하며, 구체적인 처벌 조항까지 포함됐다. 최민희 더불어민주당 의원과 이해민 조국혁신당 의원이 이달 발의한 법안에서도 고위험 AI의 시정조치를 따르지 않을 경우 각각 5000만원과 3000만원의 과태료를 부과하는 내용이 포함됐다.

결국 이날 통과한 법안에서도 사업자가 이용자에게 고위험 AI의 고지 의무 미이행에 따른 시정명령을 위반할 경우 과태료가 부과되는 조치가 마련됐다.

이러한 처벌 조항은 기술의 위험성을 통제하기 위한 장치로 평가받지만, AI 산업계는 규제가 강화될 경우 기술 혁신과 시장 성장이 위축될 수 있다는 우려를 제기하고 있다. 고위험 AI 자체에 대한 논의 필요성은 인정하면서도, 처벌 규정이 법에 명시될 경우 예상치 못한 기술적 변수에 신속히 대처하기 어려울 수 있다는 입장이다.

국내 한 AI 스타트업 대표는 “고위험 AI에 대한 처벌 기준을 법에 구체적으로 명시하면 새로운 기술이 등장할 때마다 규제의 대상이 될 수 있다”며 “관련 조항은 시행령 수준에서 다뤄 유연하게 대처할 수 있도록 해야 한다”고 말했다.

◇ 미국, AI 규제 철폐하고 국가전략 자산화

국내 AI 법안은 해외 주요 국가들의 정책 동향에 영향을 받을 수밖에 없다. 미국은 AI를 국가 전략 자산으로 간주하고 전폭적인 지원에 나설 전망이다. 미국 의회의 초당적 자문기구 미중 경제안보검토위원회(USCC)는 지난 19일 의회에 제출한 연례보고서에서 범용 인공지능(AGI·인간 이상의 지능을 갖춘 AI) 분야에서 2차 세계대전 당시 미국의 핵무기 개발 계획인 ‘맨해튼 프로젝트’와 같은 AI 전담 프로그램을 시작해야 한다고 권고했다.

특히 내년 초 출범할 예정인 트럼프 2기 행정부는 바이든 행정부가 발효했던 AI 관련 행정명령들을 철회할 가능성이 높다. 바이든 행정부의 AI 행정명령은 딥페이크 콘텐츠 워터마크 표식 의무화, 안전성 검토 등 AI에 대한 규제를 강화하는데 초점이 맞춰졌다.

다만 내년 트럼프 행정부가 실제 AI 규제를 철폐할지, 아니면 기존의 바이든 행정부 규제를 이어갈지는 아직 불확실하다. CNN 보도에 따르면, 트럼프 2기 행정부의 실세로 떠오른 일론 머스크 테슬라 CEO(최고경영자) 겸 ‘정부효율부(DOGE)’ 수장이 AI 규제 강화를 모색할 수 있다는 전망이다. 머스크는 오래 전부터 AI가 규제 없이 무분별하게 개발될 경우 사회적 위험을 초래할 수 있다고 경고하며, 초기 개발 단계에서부터 안정성을 확보하기 위한 규제 필요성을 지속적으로 주장해 왔다.

AI 윤리 연구기관 에이다 러브레이스 인스티튜트의 앤드루 스트레이트는 “머스크는 AI의 위험성에 대해 깊이 우려하고 있다”며 “이 문제가 미래의 트럼프 행정명령의 주요 주제가 될 가능성이 있다”고 내다봤다.

유럽연합(EU)도 올해 세계 최초로 제정된 AI법(AI Act)을 통해 AI 시스템을 허용 불가능한 위험, 고위험, 제한적 위험, 최소 위험의 네 단계로 분류하고 고위험 AI에 대해 강력한 규제를 도입했다. 하지만 지나치게 높은 규제 장벽으로 인해 일부 글로벌 기업들이 유럽 시장 철수를 검토하고 있어 AI 산업 발전에 부정적인 영향을 미칠 수 있다는 전망이 나온다.

이경탁 기자(kt87@chosunbiz.com)

<저작권자 ⓒ ChosunBiz.com, 무단전재 및 재배포 금지>