 |
정부는 “AI 산업 진흥에 초점을 맞추기 위해 규제는 최소화했다”고 강조하고 있으나 업계에서는 규제 불확실성을 두고 예의주시하고 있다. 법령에 명시된 위반 기준이 실제 현장에 적용될 경우 사업에 미칠 수 있는 영향을 계산하면서 상황을 지켜보자는 분위기다.
정부는 지난 20일 ‘인공지능 발전과 신뢰 기반 조성 등에 관한 기본법(AI기본법)’ 본격 시행을 앞두고 언론을 대상으로 세부 시행령 설명회를 개최했다. 이날 설명회에는 과학기술정보통신부(과기정통부)를 비롯해 한국지능정보사회진흥원(NIA) 및 인공지능안전연구소 등 AI기본법 하위법령 제정에 관여한 기관 관계자들이 참석했다.
김경만 과기정통부 인공지능정책실장은 “법이 완성됐기 때문에 시행되는 것이 아니라 이 법을 가지고 인공지능 전반에 걸쳐서 논의할 수 있는 토대를 만드는 것이 중요하다”며 “법이 보완되고 발전할 수 있도록 하기 위한 창구는 모두 열려 있다”고 강조했다.
◆정부 “진흥 초점, 규제 최소화” 거듭 강조
AI 기본법 시행령에는 AI 산업을 지원하기 위해 ▲국가AI전략위원회 설치 ▲AI안전연구소 ▲AI 연구개발 ▲AI 표준화 ▲학습용데이터 구축·제공 ▲중소기업 제공 ▲창원지원 ▲AI 융합촉진 ▲해외진출 ▲AI집적단지 ▲실증기반 조성 등 내용이 포함됐다. AI 생태계 전반에 대해 체계적인 지원 방식을 위한 법적 기반을 마련하고 체계화하기 위함이다.
안전한 AI 사용을 위한 규제 사항도 포함됐다. 크게 ‘고영향AI’와 ‘AI안전성’ ‘AI투명성’으로 구분된다.
먼저 고영향 AI는 국민의 신체 생명 재산 등에 중대한 영향을 미치는 AI로 실제 위험성이 높은 AI만을 규제한다. 고영향 AI를 판단하는 요건은 총 3가지다. AI 기본법에서 정하는 영역(국민 안전과 밀접한 분야)에서 활용되는 AI이면서 동시에 국민 기본권에 중대한 영향이나 위험한 업무에 활용돼야 한다. 아울러 사람이 개입하지 않는 상황에서 작동하는 AI여야 한다.
심지섭 인공지능안전신뢰정책과 사무관은 “세 요건을 모두 충족하는 AI만이 고영향 AI에 해당한다”며 “중대한 영향을 미치는 AI라는 점은 충족하더라도 AI 활용 과정에서 사람이 개입하면 고영향 AI로 분류되지 않는다”고 설명했다.
이에 따라 현재까지 개발된 AI 중 극히 적은 AI만이 고영향 AI에 속하게 된다는 것이 정부 설명이다. 예컨대 아직까지 실제로는 운영되고 있지 않은 자율주행 레벨4(사람 없이 자율주행이 가능한 수준) AI 정도가 고영향 AI에 속한다는 것이다.
AI 안전성 규정은 AI 기술 고도화에 따른 부작용을 막기 위한 예비적 조치다. 초거대 데이터를 학습한 AI 경우 개발자 조차 AI의 작동 방식을 규명하기 어렵다. 현재도 AI 업계에서는 AI의 연산 과정을 명확히 밝히지 못하는 ‘블랙박스’ 문제와 ‘복잡성’ 문제가 지속되고 있다. 이런 문제가 심화될 경우 AI가 인간의 통제를 벗어날 수 있다는 우려가 전문가 사이에서 제기되면서 AI기본법에서도 안전성을 확보하기 위한 장치가 마련됐다.
심 사무관은 “학습누적량이 10의26승 부동소수점(플롭스) 이상이면 AI안전성 규제를 받는 대상이된다”며 “해당 조건을 충족하는 AI는 아직까지 해외 시장에서도 없는 것으로 판단된다”고 말했다.
고영향AI나 AI 안전성 규정이 당장 업계에 미칠 영향은 극히 적다는 게 정부 시각이다. 요건들을 충족하는 기업이 극소수인데다가 이를 구분하는 기준도 엄격하기 때문에 대부분 해당 규제 사정권을 벗어나 있다는 설명이다.
업계에 당장 영향을 줄 수 있는 규제 사항으로는 AI 생성물 표기 규제가 포함된 AI 투명성 규정을 언급했다. AI투명성 규정은 AI 생성물로 인한 가짜뉴스와 악의적인 불법 콘텐츠 확산을 막기 위한 조치다. 이를 위해 AI 사업자는 이미지나 영상 등 AI 생성물을 제공할 때 이용자가 AI 생성물임을 알 수 있도록 표시를 해야한다.
정부는 구체적인 표시 대상도 규정했다. 대상은 AI 모델을 직접 개발한 ‘AI개발사업자’와 개발된 모델을 파인튜닝(미세조정)하거나 다양한 모델을 통합해 서비스를 제공하는 ‘AI이용사업자’다. AI기본법은 AI 사업자를 대상으로 하는 법인 만큼 해당 서비스를 사용하는 이용자는 대상에서 벗어나 있다. 이용자의 경우 AI 생성물로 허위 불법 콘텐츠로 타인에게 피해를 주는 경우 ‘정보통신망법’이나 ‘성폭력처벌법’ 등 개별법을 통해 처벌받게 된다.
AI 생성물 표시 방법은 ‘서비스 환경 내 제공’과 ‘외부 반출’ 등 표출 방식에 따라서 구분된다. 또 일반생성물과 딥페이크 생성물 등에 따라 표시 방법이 다르다. 가시적인 워터마크를 통해 AI 생성물임을 나타낼 수도 있고 음성이나 안내 문구를 통해서도 가능하다. 또 예술 창의 작품에 활용되는 경우 비가시적인 방법이 허용된다.
정부는 AI 기본법 시행령의 구체적인 적용 방식 등에 대한 기업의 궁금증을 해소할 수 있도록 ‘AI기본법지원데스크’를 운영한다. 중소 스타트업을 대상으로 고영향 AI 및 AI 영향평가 이행 지원을 수행하는 맞춤형 컨설팅도 제공한다.
정부는 고영향AI 확인 요청이나 사실조사 등 정부 조치는 1년 이상 유예하기로 했다. 업계가 해당 법안에 적응하고 이행조치를 실천할 수 있는 시간을 충분히 제공하겠다는 취지다.
심 사무관은 “규제 유예 기간 동안 사실조사 등 기업에 불이익한 어떤 행위를 하지 않을 것”이라며 “인명 피해 등 중대한 문제가 발생할 경우에는 행정조사법이나 노동법 등 현행 법 내에서 조사를 수행할 수도 있다”고 설명했다.
◆업계 “당장 영향은 적겠지만…” 불확실성 우려는 지속
업계에서는 AI 기본법 시행을 두고 “당장의 영향은 적다”고 평가하고 있다. 규제와 관련해서는 정부 판단대로 고영향AI나 AI 안전성 기준을 충족하는 AI 모델이 국내에 많지 않기 때문이다. 신경 써야할 부분은 AI 생성물 표시 규제가 포함된 AI 투명성 확보 규정인데 이는 이미 대부분 기업에서 생성물에 AI 워터마크를 표시하고 있어 문제될 부분이 아니라는 것이다.
김 실장은 “규제가 애매모호하다는 지적이 지속되고 있다는 점은 정부도 인지하고 있는 부분”이라며 “AI 부작용 우려를 최소화하고 기술 신뢰성을 높이기 위한 최소한의 방안으로 접근하고자 한다”고 강조했다.
다만 불확실성 문제는 피할 수 없게 됐다는 평가다. AI기본법 시행령이나 고시의 잦은 변화가 이어질 경우 AI 기업 입장에서는 중장기적인 사업 전략을 세우는데 있어 문제가 될 수 있다. 투자 시장에서도 정부의 움직임에 예의주시하면서 시장이 위축되는 등 부작용이 이어질 수 있다는 분석이다.
당장은 정부가 기업의 진흥을 위해 ‘최소한의 규제’를 거듭 강조하고 있지만 이 기조가 언제까지나 이어질지는 미지수다. 중장기적으로 정권이 바뀌면서 혹은 일련의 사건들로 규제 기조가 바뀔 경우 기업이 부담해야하는 규제준수 비용도 함께 늘어날 수 있다는 우려다.
업계 관계자는 “AI 기본법을 시행하는 과정 자체가 조급한 감이 있다”며 “유럽연합(EU)에서도 단계적으로 시행하기 시작한 만큼 아직 규제 영향에 대한 불확실성이 높다”고 말했다.
- Copyright ⓒ 디지털데일리. 무단전재 및 재배포 금지 -
이 기사의 카테고리는 언론사의 분류를 따릅니다.