AI 기본법, 산업 진흥 무게…최소 규제 기조

21일 서울 강남구 코엑스에서 열린 제23회 대한민국 교육박람회에서 한 학생이 로보로보 부스에서 피지컬AI 체험을 하고 있다. 뉴시스

22일부터 챗GPT, 제미나이 등 생성형 인공지능(AI) 서비스를 통해 만들어져 외부로 유통되는 이미지·영상·음성에는 ‘AI 생성물’임을 알리는 표시가 적용된다. 또 에너지·먹는물·의료·교통 등 생명이나 안전, 기본권에 중대한 영향을 미치는 영역에서 활용되는 고영향 AI 운영 사업자는 해당 여부를 사전에 검토받고 영향을 받는 자에 대한 보호 방안을 마련해야 한다. 아울러 학습에 사용된 누적 연산량이 10의 26승 부동소수점 연산(FLOPs) 이상인 초고성능 AI에 대해서는 안전성 확보 의무가 부과된다.

21일 과학기술정보통신부에 따르면 ‘인공지능 발전과 신뢰 기반 조성 등에 관한 기본법(AI 기본법)’이 본격 시행된다. 유럽연합(EU)에 이어 두 번째로 마련된 AI 산업 관련 법안이지만 시행은 우리나라가 최초다.

앞서 과기정통부는 전날 서울 광화문에서 설명회를 열고 AI 기본법의 적용 기준과 기업 지원 방안을 공개했다. 과기정통부는 이번 법을 “인공지능 활용을 뒷받침하는 기본 인프라 법”으로 규정하며 시행 초기에는 처벌보다 계도와 지원에 중점을 두겠다고 밝혔다.

업계에서는 그동안 고영향 AI 정의와 안전성·투명성 의무가 모호해 과잉 규제로 이어질 수 있다는 우려를 제기해 왔다. 스타트업들은 고영향 AI 지정 기준과 데이터셋 투명성, 생성물 표시 의무를 주요 부담으로 꼽는다.

정부는 이런 우려를 반영해 법 시행 후 최소 1년 이상 사실상 유예 기간을 두고 ‘AI 기본법 지원 데스크’를 중심으로 컨설팅과 안내에 나서기로 했다. 중대한 인명 피해나 기본권 침해 등 예외적 사안이 아닌 경우에는 제재보다 계도를 우선 적용한다는 방침이다.

고영향 AI는 사람의 생명·신체·기본권에 중대한 영향을 미치거나 위험한 업무에 사용되는 인공지능 가운데 사람의 개입 없이 자동으로 작동하는 경우로 한정된다. 현재는 완전자율주행 단계인 레벨4 이상 차량이 대표 사례로 제시된다.

AI 생성물의 출처를 알리는 ‘생성물 표시 의무’는 이용자에게 최종적으로 서비스를 제공하는 사업자에게 부과된다. 구글·오픈AI 등 해외 빅테크도 한국에서 서비스를 제공하면 적용 대상이 된다. 딥페이크 영상·음성에는 강한 표시 의무를, 텍스트나 일반 이미지에는 메타데이터 표기 등 탄력적인 방식을 허용한다.

과기정통부는 국내 AI 기업을 약 2500곳으로 추산하며 이 가운데 상당수가 AI 기본법 적용 사정권에 들어갈 것으로 보고 있다. 김경만 과기정통부 AI정책실장은 “AI 기본법이 완성된 법이라고 보지는 않는다”며 “산업계·시민단체와 논의를 이어가 제도를 보완하고, 최소 규제 원칙 아래 AI 생태계를 키워 나겠다”고 말했다.

김재원 기자 jkim@segye.com

ⓒ 세상을 보는 눈, 세계일보