한국, 오늘부터 세계 최초로 AI 규제 시작

‘AI 기본법’ 시행
국내업계 “무얼 어디까지 지킬 지
기준 모호… 기업 활동 위축 우려”

지난달 30일 국회 본회의에서 인공지능 발전과 신뢰 기반 조성 등에 관한 기본법 일부개정법률안이 통과되고 있다. /연합뉴스

AI 기본법(인공지능 발전과 신뢰 기반 조성 등에 관한 기본법)이 22일부터 시행됐다. 유럽연합(EU)이 2024년 최초로 AI 법을 제정했지만, 고위험 AI 규제를 2027년 12월로 유예한 상황에서 우리나라가 세계 최초로 포괄적인 AI 법 체계를 가동하는 국가가 됐다. AI 기본법은 국가의 AI 관리 체계 정립, AI 산업 육성과 지원, AI 활용 과정의 안전과 신뢰 확보 등을 담고 있다.

법 시행으로 AI 제품과 서비스를 직접 제공하는 AI 사업자는 AI가 만든 음성·이미지·영상에 ‘워터마크’ 표시를 해야 한다. 또 국민의 생명·안전·기본권에 중대한 영향을 미치는 영역에 사용되면서 위험성이 큰 AI를 ‘고영향 AI’로 분류하고, 해당 사업자에게 AI 활용 사실 사전 고지, 위험 관리 방안 수립 등 의무를 부과했다. 이를 위반하면 최대 3000만원의 과태료가 부과된다. AI를 활용한 게임의 경우 ‘본 게임에는 일부 생성형 AI를 활용했습니다’라는 안내 문구를 넣거나, AI로 만든 캐릭터 옆에 ‘AI로 만들었다’고 표시해야 한다. 게임에 AI 챗봇을 넣어 이용자와 대화하는 경우 ‘생성형 AI를 통한 대화’라고 표시해야 한다. 다만 단순히 업무 효율을 높이기 위해 AI를 도구로 활용하는 경우는 해당하지 않는다. 영화에 영상 생성 AI를 활용했다고 ‘AI 생성 이미지’라고 표시할 필요는 없다는 얘기다.

그래픽=김현국

◇혼란에 빠진 AI 업계

AI 기업들은 AI 기본법 시행에 난감해하고 있다. 일단 “무엇을 어디까지 지켜야 하는지, 기준 자체가 모호하다”는 지적이 쏟아진다. ‘고영향 AI’의 범위를 둘러싼 논란이 대표적이다. 법은 에너지·보건의료·범죄 수사·체포·교통 등에 ‘중대한 영향’을 미칠 수 있는 AI를 고영향 AI라고 규정했다. 하지만 ‘중대한’의 범위가 주관적이다. 또 고영향 AI에 해당하는지를 사업자 스스로 검토하고 판단하도록 했다. 법조계조차 “충분한 논의가 부족한 상태에서 입법이 이뤄진 것 같다”며 “용어를 구체적이고 명확히 해 규제 범위를 좁혀야 한다”는 의견이 나온다.

정부가 법률 판단의 기준이 되는 가이드라인을 내놨지만, 업계 우려는 가라앉지 않고 있다. 스타트업얼라이언스가 지난해 말 국내 AI 스타트업 101사를 대상으로 설문조사해 보니 98%가 ‘AI 기본법 시행에 대응 체계를 갖추지 못했다’고 답했다. 한 AI 스타트업 대표는 “규제 준수, 행정 작업에 시간과 인력을 투입해야 하는데 대기업은 사내 법무 조직이라도 있고 외부 로펌을 써서 검토할 수 있지만, 자금·인력이 부족한 스타트업은 무방비로 노출될 수밖에 없다”고 말했다.

산업을 보호하고 육성하겠다고 만든 법이 오히려 기술 개발의 장애물이 되고, 기업 경영도 위축시킬 것이란 우려가 커진다. 임정욱 스타트업얼라이언스 공동대표는 “스타트업은 기술 개발에 매달리기에도 시간과 자금이 부족한데, 앞으로는 지금 하는 일이 법에 맞는지, 문제가 되지는 않는지 일일이 따져야 해 개발이 지체될 수 있다”고 했다. 정부는 일단 사실 조사, 과태료 부과 등 규제 적용은 최소 1년 이상 유예하겠다는 입장이다.

◇국내 기업 역차별 우려도

업계에서는 국내 기업만 족쇄를 채우고 해외 기업은 손도 못 대는 역차별 우려도 크다. 국내 기업은 위법 행위가 적발되면 AI 기본법에 따라 제재를 받지만, 외국 AI 기업에 대해서는 국내법 적용이 쉽지 않기 때문이다. AI 기본법은 해외 빅테크의 경우 특정 기준에 따라 국내 대리인을 지정하도록 했다. 하지만 대리인이 실질적인 책임자가 아니라 본사와 소통 역할만 맡고 있다면 책임을 묻기 어렵다. 쿠팡 해킹 사태처럼, 해외 기업에 대한 실효성 있는 제재는 불가능하다는 것이다. 최경진 가천대 법대 교수(한국인공지능법학회장)는 “정부가 해외 사업자가 법을 위반하면 국내 기업과 똑같이 조사하고 처분하겠다는 의지를 보여줘 국내 기업 역차별 우려를 해소해야 한다”고 지적했다.

[김강한 기자]

- Copyrights ⓒ 조선일보 & chosun.com, 무단 전재 및 재배포 금지 -