법 시행 얼마 안남았는데…고영향AI 분류될까 스타트업들 ‘발 동동’

22일 AI기본법 시행 예정
스타트업 98% "법 대응체계 못 갖춰"
“고영향AI 예외 및 해제 기준 마련해야”

[이데일리 김세연 기자] “미리 대비하긴 힘들어요. 자연스레 고영향 인공지능(AI)으로 분류될만한 사업은 축소하고 외부 기술을 쓰게 되죠.”

게임 플랫폼을 개발하는 스타트업 대표 A씨는 AI기본법 시행을 앞두고 걱정이 많다. A씨는 게임 개발에 사용하는 그래픽이나 이미지를 생성하는 자사의 이미지·영상 관련 기술이 고영향AI로 분류될 가능성을 크게 보고 이후 실질적인 대응 방안을 어떻게 마련해야 할 지 고민이다.

이번 달 22일 AI기본법이 시행 예정인 가운데 관련 스타트업들이 법 시행이 기술 개발 및 진흥을 막을지 모른다는 우려를 크게 나타내고 있다. AI기본법은 AI가 활용되는 영역(1단계)과 위험 수준(2단계)을 종합적으로 판단해 고영향 AI 여부를 가른다. 법령은 보건의료, 범죄 수사 등 분야 외에도 ‘사람의 생명·신체의 안전 및 기본권 보호에 중대한 영향을 미치는 영역’을 고영향 AI로 분류할 수 있다고 정의한다. 즉 오류나 오·남용이 발생했을 때 피해 규모가 크고 회복이 어려운 영역에 쓰이는 AI를 따로 분류해 더 엄격하게 관리하겠다는 개념이다. 가령 고영향AI로 자사 기술이 분류될 경우 해당 기업은 관련 서비스가 AI에 의해 작동된다는 사실을 이용자에 사전 고지하고, 위험관리 시스템을 구축하는 등의 법적 준수 체계를 갖춰야 한다. 이 때문에 관련 기업들은 자사 기술이 고영향 AI로 분류될 가능성에 바짝 긴장을 하고 있다.

특히 공공데이터, 공개데이터 등을 많이 활용하는 스타트업 입장에서는 부담이 크다. A씨는 “모델 하나 만드는 데 데이터를 수백만~수천만장 학습한다. 저작권 문제가 안 되는 데이터만 긁어서 학습해도 향후 문제가 될만한 데이터가 단 1장도 없으리라는 보장은 없다”며 “문제가 되는 데이터의 학습분량만 제거할 수는 없다. 아예 학습을 처음부터 다시 시켜야 하는 건데 그만큼 비용이 다시 들게 될 것”이라고 토로했다. 결국 고영향 AI로 분류될만한 기술은 자체 개발 모델을 활용하느니 오픈소스로 공개된 외부 기술을 활용하겠다는 분위기도 생긴다는 게 업계 관계자들의 설명이다.

범용 AI를 개발하는 기업도 힘들긴 마찬가지다. AI기본법 구조상 이미지 판독 AI, AI 챗봇 등 원천 기술을 개발하는 ‘개발사업자’, 이를 참고한 특화 솔루션을 제공하는 ‘이용사업자’는 AI 기본법을 의무적으로 지켜야 한다. 예를 들어 검색 서비스는 물론 의료 상담, 법률 상담 등에 광범위하게 활용할 수 있는 생성형 AI를 만드는 기업은 고영향 AI 기준에 맞춰 자사 서비스를 개발하고 검·인증해야 한다. 업계 관계자 B씨는 “협업이나 투자 유치 과정에서도 AI 기본법 대응 역량이 중요해질 것”이라고 했다.

오픈소스를 활용해 특화 AI를 만드는 스타트업은 사실상 손을 놓고 있다. 여전히 자사가 어느 지위에 속하는지 파악조차 못하는 상황이다. 정주연 스타트업얼라이언스 선임전문위원은 “다수의 스타트업은 외부 모델을 튜닝해 활용하는 경우가 많다. 자사가 어느 지위에 속하는지 판단하기 어려워 사전 의무 파악이 어려운 상황”이라며 “법령상 정의가 불명확하다 보니 기업 입장에서는 결국 안전하게 과잉 준수를 택하면서 위험을 회피할 가능성이 크다. 혁신 속도가 크게 저해될 우려로 이어지는 것”이라고 지적했다. 이어 “고영향AI 기준을 사례별로 구체화하거나 학문·예술 목적 등 고영향 AI 예외 및 해제 기준 마련해야 할 것”이라고 조언했다.

실제로 스타트업얼라이언스가 지난달 3일 국내 101개 AI 스타트업들을 대상으로 조사·발표한 ‘스타트업의 AI 기본법 대응 현황’에 따르면 응답 기업의 98%는 AI 기본법 시행에 따른 실질적인 대응 체계를 갖추지 못한 것으로 조사됐다. 구체적으로 ‘내용을 잘 모르고 준비도 안 돼 있다’, ‘법령은 인지하지만 대응은 미흡하다’는 비중이 각각 48.5%에 달했다. 대응 계획을 수립하고 준비 중인 비율은 2%에 불과했다.

스타트업 여건상 고영향 AI 분류 가능성이 커도 선제 대응은 쉽지 않다. AI 스타트업 대표 D씨는 “법에 저촉되지 않게 기술을 개발하기 위해 스타트업 자체적으로 검·인증 기술을 개발하기는 사실상 어렵다”며 “우리나라에서 자체적으로 법에 대응할 수 있는 기업은 네이버 정도 수준의 대기업 뿐일 것”이라고 짚었다.

고영향 AI 확인절차를 수행하는 과학기술정보통신부는 “안전·신뢰 기반 조성 제도의 조속한 현장 안착을 위해 구체적인 기준과 의무 이행 방법, 모범 사례 등을 반영한 고시와 가이드라인도 마련할 계획”이라며 “AI기본법 적용 등 법규정에 대한 기업의 어려움을 해소하기 위해 AI기본법 지원 플랫폼인 통합안내지원센터(가칭)를 운영하고 법 적용에 관한 기업 등의 문의 사항에 대해서 상세하게 안내할 계획”이라고 밝혔다.

[이데일리 김일환 기자]