[AI기본법] ② 규제는 국내만? 해외 AI엔 손 못 대는 구조

딥페이크·유해 콘텐츠 확산에도 국내법 적용 한계
대리인 지정에도 실효성 논란…AI 역차별 우려 확산

딥페이크 [강민지 제작] 일러스트

(서울=연합뉴스) 한상용 기자 = 오는 22일 시행될 AI 기본법은 우리만의 AI 산업 진흥에 초점을 맞췄다는 게 정부 설명이지만 실제 국내 시장에서 AI 사업을 진행하는 스타트업 현장 분위기는 사뭇 다르다.

당장 AI와 스타트업 업계는 AI 기본법 주요 규정의 모호성에 우려를 표시하고 있다.

여기에다 외국 AI 빅테크와 비교해 역차별당하지 않을까 노심초사하는 모습도 엿보인다.

전문가들은 '세계 최초'란 타이틀과 신속한 시행에 집착하지 말고 면밀한 준비와 대응이 필요하다고 조언한다.

◇ AI 업계 고민은?…"벌금이 아니라 위법이 문제다"

가장 큰 우려를 표시하는 대목은 '고영향' 기준과 '워터마크' 표기다.

정부는 의료와 에너지, 채용, 대출 심사 등 국민 생명이나 권리에 큰 영향을 주는 분야의 AI를 '고영향 AI'라고 정의했다.

이에 따라 해당 영역과 관련된 AI 사업자는 사람이 관리하는 체계를 만드는 한편 안전성 확보 조치를 정부에 보고하도록 했다.

불확실성이 컸던 AI 규제 환경에 확실성을 부여해 궁극적으로 AI 업계에 도움을 주겠다는 취지다.

그러나 AI 스타트업계 시각에서는 이를 정반대로 해석하는 분위기도 엿보인다.

'AI 관련 사업을 시작하려면 먼저 정부가 요구하는 서류를 제출해 검토 과정을 거쳐야 한다. 안정성을 자체 확보한 뒤에도 정부에 서류를 제출·보고한 뒤 또다시 평가받으라'는 것이다.

AI 사업 구상 초기부터 매 단계 '서류 작업'이 필요하고 그 이후에는 정부의 '검토 작업'에 따라 또 다른 행정 처리 절차를 밟으라는 강제 지침으로 들린다는 얘기다.

여기서 절차적 흠결이 발견되면 또다시 서류 작업에 매달릴 수밖에 없다는 것이다.

물론 AI 이용자와 국민의 신체적·정신적 건강이라는 중대 영향력을 고려하면 당연한 조치일 수 있다는 점은 수긍한다.

그러나 AI 업계간 치열한 경쟁 상황을 고려하면 늘어나는 '행정적 절차'에 따라 효율성은 그만큼 떨어질 수 있다고 호소한다.

국내 AI 업계 한 관계자는 "정부는 기본법 위반 사례에 대해 계도 기간을 두고 과태료 부과와 같은 처벌을 천천히 시행하겠다고 하지만 기업들이 정작 두려워하는 것은 법을 위반한다는 그 자체"라고 말했다.

인공지능 발전과 신뢰 기반 조성 등에 관한 기본법 일부개정법률안 본회의 통과 (서울=연합뉴스) 신현우 기자 = 지난해 12월 30일 국회 본회의에서 인공지능 발전과 신뢰 기반 조성 등에 관한 기본법 일부개정법률안이 통과되고 있다. 2025.12.30 nowwego@yna.co.kr

AI 기본법에 저촉돼 '위법한 AI 기업'으로 낙인찍히는 것을 가장 우려한다는 것이다.

과기정통부는 앞서 AI 기본법 위반에 따른 시정 명령을 따르지 않은 업체에 부과되는 과태료에 대해서는 사실조사 뒤 위반 사항이 발견돼도 부과하지 않는 계도 기간을 일정 기간 두겠다고 밝힌 바 있다.

AI 기본법 일부 규정 문항 가운데 '고영향'처럼 주관적으로 해석될 수 있다는 소지도 논쟁거리로 꼽힌다.

정부는 자율주행차의 경우 사람 운전자가 개입하는 현재 기술 수준의 레벨3는 해당하지 않지만 차가 스스로 운전하는 레벨4부터는 고영향 AI에 속한다는 사례를 제시하기는 했다.

그러나 명확한 단계 구분이 없을 경우 고영향 기준을 어떻게 정할 것인지, 또 고영향이 있는 분야에서 위법 사례가 있다면 저영향에 비해 제재 강도가 더 세질 수 있는지 불분명하다는 지적도 나온다.

여기에다 AI 기본법 시행령은 인간 기본권에 막대한 영향을 주는 고영향 AI와 생성형 AI 결과물에 대해 워터마크 등으로 표시하도록 규정했는데, 이 역시 업계가 '비현실적 조치'로 지목되는 항목이다.

고영향 기준조차 불분명한 데다 워터마크 표시 자체가 소비자들에게 인위적이고 부정적인 이미지를 줄 수 있다는 이유에서다.

사람이 전체 작업 중 AI 기술을 극히 일부만 사용했을 때에도 'AI에 의한 결과물'로 봐야할 지도 의문으로 남는 대목이다.

◇ 해외 빅테크 일탈 행위 처벌은 어떻게?…"역차별 우려"

국내 AI 업계의 또 다른 우려 사항은 해외 빅테크와 역차별 가능성이다.

국내 기업은 위법 행위가 적발되면 AI 기본법에 따라 처벌할 수 있지만 외국 AI 기업의 경우 국내법을 적용하기 어려울 수 있기 때문이다.

예컨대 딥페이크 제작물 논란에 휩싸이기도 한 해외 AI 챗봇 서비스 '그록'(Grok)이 문제의 콘텐츠를 국내에 유포할 경우가 자주 거론된다.

그록은 미국 빅테크 엑스(X)가 운영하고 있는데, 국내법 적용의 한계로 이런 문제를 제지할 마땅한 수단도 없는 실정이다.

그록 (AFP=연합뉴스)

이에 따라 방송미디어통신위원회는 최근 엑스측에 유해 정보로부터 청소년을 보호하기 위한 청소년 접근제한 및 관리 조치 등 보호 계획을 수립해 결과를 회신해 달라고 통보했을 뿐이다.

AI 기본법은 해외 빅테크의 경우 특정 기준에 따라 국내 대리인을 지정토록 하지만 실질적 책임자가 아니라면 문제 발생 시 책임을 따져 묻기도 곤란할 수 있다.

이는 단적인 예지만 해외 빅테크로부터 촉발된 근본적 문제를 해결하지 못한 채 국내 플랫폼 또는 인터넷 기업만 규제할 수 있는 사례인 셈이다.

국내외 AI 기업에서 동시다발적인 문제가 발생했을 경우에도 국내 기업만 정부의 조사 대상이 될 수 있다는 점도 역차별 가능성 사례로 거론된다.

이와 관련해 위정현 중앙대 가상융합대학 학장은 "AI 산업 규제와 진흥이라는 양면성을 띈 AI 기본법이 실제 적용되면 일부 규정의 모호성으로 기업들은 당혹스러울수 있다"며 "정부는 업계 사정을 면밀하게 살피면서 명확한 가이드라인을 제시할 필요가 있다"고 말했다.

gogo213@yna.co.kr

▶제보는 카카오톡 okjebo
▶연합뉴스 앱 지금 바로 다운받기~
▶네이버 연합뉴스 채널 구독하기
<저작권자(c) 연합뉴스, 무단 전재-재배포, AI 학습 및 활용 금지>