'세계 최초'에 다급했나... 시행과 동시에 또 AI 제도 개선한다는 정부

AI 기본법 1월 시행... 쟁점 논란 여전
시행 후 ‘제도개선 연구반’ 운영 예고
정부 "개문발차 후 조정하자" 방침에
"일단 시행부터" vs "실익 따져봐야"

과학기술정보통신부 관계자들이 24일 서울 중구 한국지능정보사회진흥원 서울사무소에서 ‘AI 기본법 시행 대비 설명회’를 열고 취재진의 질문에 답하고 있다. 신혜정 기자

정부가 내년 1월 인공지능(AI) 기본법 시행과 함께 법 개정 논의도 추진하겠다고 밝혔다. 세계 최초로 AI 안전 규제 시행을 앞두고 있지만, 여전히 주요 규정이 모호하고 개선이 필요하다는 의견이 많기 때문이다. 정부는 “개문발차 후 조정해가자”는 취지이나, 준비가 덜 된 채 조급하게 법이 시행되는 것 아니냐는 우려도 나온다.

과학기술정보통신부는 24일 오전 서울 중구 한국지능정보사회진흥원에서 ‘AI 기본법 시행 대비 설명회’를 열고 내달 22일 법 시행 후 절차와 시행령 의견 수렴 현황을 공개했다. AI 기본법은 지난해 12월 제정 당시 구체 내용을 하위 법령에 위임한 채 통과됐다. 이에 시행령에 촘촘한 보완이 필요했고, 정부는 올 한 해 마련한 시행령을 지난달 22일 입법예고한 뒤 의견을 수렴했다.

입법예고 뒤 의견 한가득... 정부 "추가 논의"

의견 수렴에 대한 이날 정부 입장은 ‘추가 논의가 필요하다’로 귀결됐다. ①AI 생성 이미지·영상에 워터마크를 붙이는 투명성 의무에 대해 산업계는 콘텐츠 품질 저하를 이유로 예외 필요성을 제기했으나, 과기정통부는 “충분한 사회적 합의가 필요한 사안으로, 활용성과 부작용을 함께 고려한 종합적 제도 개선 논의가 필요하다”고 밝혔다.

②법적 주체에 대한 용어 정의 역시 주요 쟁점이다. AI 사업자를 개발·이용 사업자로 나눌 때 정의와 역할이 모호하다는 지적과 함께, 유럽연합(EU)처럼 AI 배포자의 책임을 구분해야 한다는 의견이 산업계와 시민사회에서 공통으로 제기됐다. 예를 들어 다른 회사의 AI 서비스를 도입해 고객 신용평가를 하는 금융사는 배포사로, 개발사와 책임이 다르다는 것이다. 과기정통부는 “관련 사례를 가이드라인에 반영하되, 배포자 개념 도입은 법 개정 사항”이라고 설명했다.

그래픽=송정근 기자

규제 대상인 ③'고영향 AI'인지 모호해 확인을 요청하면 정부는 30일 안에 회신해야 한다. 이 기간이 길다는 지적이 나오자 정부는 1회에 한해 연장 사유와 기간을 통보하도록 시행령에 반영하겠다고 밝혔다. 고영향 AI 기준이 여전히 모호하다는 우려가 지속됐지만, 관련 가이드라인은 다음달에야 공개된다. EU AI법은 ‘고위험’만 규제하는데, 우리는 ‘고영향’으로 대상을 넓혀 "단순히 사용자가 많은 AI 서비스까지 과도하게 규제할 수 있다"는 우려도 적지 않다.

고영향 AI의 ④안전성 의무 적용 대상은 ‘누적 연산량 10의 26제곱 FLOPs 초과 모델’(FLOPs·초당 수행할 수 있는 부동 소수점 연산 횟수)이다. 이에 해당하는 건 챗GPT 같은 거대언어모델(LLM) 정도로 현재 국내엔 없다. 산업계에선 ‘연산량이 크다고 위험성이 높은 것은 아니다’, 시민사회에선 ‘연산량이 적어도 악영향을 줄 수 있다’는 지적이 나온다. ⑤사업자 설명 책무가 과도하다는 주장도 있는데, 정부는 “설명 방식은 사업자 자율”이라면서도 “영향 받는 사람 보호를 위한 제도 개선은 필요하다”고 덧붙였다.

1년 계도기간... 세계 최초 시행 의의 퇴색?

정부는 “1년 이상 계도기간을 두고 기술 발전과 해외 동향에 따라 조정하겠다”며 우려를 잠재우려는 모습을 보였다. 인명사고나 인권훼손, 국가적 피해 등에 대해서만 사실조사를 하는 등 "규제를 최소화한다"는 입장이다. 이진수 과기정통부 인공지능정책기획관은 “1월 20일 전후로 산업계∙시민사회∙학계가 참여하는 ‘제도개선 연구반’을 구성해 법 개선 방안을 도출하겠다”고 말했다.

결국 AI 기본법을 시행하더라도 규제 효력이 크지 않은 데다, 바로 개정될 처지라 ’세계 최초 시행’의 의의가 퇴색된다는 목소리가 나오고 있다. 앞서 EU는 AI법을 제정해 고위험 AI를 규제하려 했으나 △기술표준 부재 △집행 인프라 미비 △산업 영향 평가 부족을 이유로 내년 8월로 시행을 조건부 연기했다.

이성엽 고려대 기술경영전문대학원 교수는 “과태료 부과를 유예해도 기업들은 기술 개발에 투입할 시간을 규제 적응에 쏟게 될 것”이라며 “충분히 준비 안 된 법을 시행부터 하는 게 실익이 있을지 따져야 한다”고 말했다. 최경진 가천대 법학과 교수(한국인공지능법학회장)는 “그간 많은 준비를 한 만큼 당장 시행 자체를 미룰 순 없을 것”이라며 “내년에 추가 논의해 핵심 쟁점을 해소하되 불필요한 혼란이 추가되지 않아야 한다”고 당부했다.

신혜정 기자 arete@hankookilbo.com