EU, 선거·의료정보에 AI 사용 규제 … 학습데이터는 투명 공개

유럽연합(EU)이 인공지능(AI) 법안에 전격 합의한 까닭은 미국 빅테크 기업 주도로 초거대 AI 구축 움직임이 빨라지고 있어서다.

실제로 오픈AI의 GPT-4.0 터보, 구글의 제미나이는 인간 두뇌의 시냅스에 해당하는 파라미터 수가 수천억 개에 달하는 초거대 AI다. 유럽은 아직 제대로 된 초거대 AI가 없다. 빅테크가 주도하는 초거대 AI를 규제해, 유럽 산업을 보호하겠다는 메시지다.

특히 AI 규제 틀을 만들면서 새로운 디지털 질서를 주도하겠다는 의도도 담긴 것으로 보인다. 워싱턴포스트(WP)는 "EU의 기술 규제에 대한 리더십이 강화될 것"이라고 전망했다.

AI법은 크게 △시민 권리·민주주의에 위협이 될 수 있는 AI 금지 △법 집행 기관에 대한 예외 허용 △범용 AI(GPAI)에 대한 가드레일 제정 △혁신 중소기업을 위한 지원이 골자다.

특히 범용 AI에 대한 가드레일 제정은 AI 산업 선두인 빅테크에 대한 큰 족쇄가 될 것으로 보인다. EU는 "범용 AI 시스템과 그 기반이 되는 GPAI 모델은 의회가 처음에 제안한 대로 투명성 요건을 준수해야 한다는 데 동의했다"면서 "여기에는 기술 문서 작성, EU 저작권법 준수, AI 학습에 사용된 콘텐츠에 대한 자세한 요약본 배포가 포함된다"고 강조했다. 영향력이 큰 GPAI 모델에 대해선 더 강력한 준수 사항을 요구했다. 모델 평가, 시스템 평가·위험 완화 대책 마련, 보안 테스트 수행, 심각한 사고 발생 시 EU 집행위원회에 보고, 사이버 보안 보장, 에너지 효율성 보고 등을 모두 준수해야 한다. 아울러 EU는 적용 분야를 저위험군과 고위험군으로 분류하고, 고위험군에서 AI 사용을 규제했다. 고위험 AI 시스템은 건강, 안전, 기본권, 환경, 민주주의, 법치에 중대한 해악을 미칠 수 있는 AI 시스템이다. 특히 이번에 EU는 유권자와 선거 부문을 고위험군으로 분류했다.

반면 EU는 유럽에서 활동하는 중소 AI 기업에 대한 대대적 지원을 약속했다. EU 의회는 "중소기업이 기술의 가치사슬을 장악하고 있는 대기업의 부당한 압력 없이 AI 솔루션을 개발할 수 있도록 보장하고자 한다"면서 "EU 내 각국 정부가 혁신적인 AI를 개발하고 훈련하기 위해 설립한 이른바 '규제 샌드박스'와 실제 테스트를 장려한다"고 강조했다.

가장 큰 타격은 빅테크다. 빅테크 기업은 선두 주자를 중심으로 EU 내 AI 사업이 힘들어질 가능성이 크다. 오픈AI GPT를 연동해 '코파일럿'이라는 서비스를 만들고 있는 마이크로소프트(MS), '제미나이'를 출시하며 AI 기반 서비스를 강화하고 있는 구글은 자칫 EU 전용 서비스를 별도로 내놓아야 할 수 있다. 추가 개발 비용이 들 수 있는 셈이다.

반면 후발 주자는 한숨 돌렸다는 평가다. 유럽 내 AI 기업이 손을 잡은 오픈소스 진영은 환영했다. 메타의 수석 AI 과학자인 얀 르쾽은 X(옛 트위터)를 통해 "중요한 이슈는 오픈소스 모델에 대한 규제였다"면서 "하지만 프랑스, 독일, 이탈리아 정부가 오픈소스 모델을 포기하지 않아, 상대적으로 약한 규제가 만들어졌다"고 평가했다. 현재 프랑스는 간판 스타트업인 미스트랄AI가 첫 대규모언어모델(LLM)을 내놓는 등 자국산 초거대 AI 구축에 매진하는 중이다.

이번 규제는 미국 안보다 강도가 높다. 미국 조 바이든 행정부는 올 10월 △AI 학습 전 연방정부에 사전 보고 △클라우드 업체의 AI 고객사 연락처 등 정보 보고 △AI 콘텐츠에 대한 워터마크 지침 마련을 골자로 한 행정명령에 서명한 바 있다.

한편 기술 면에서 미국보다는 뒤처져 있지만 EU보다는 앞서 있는 것으로 평가되는 한국은 성장을 위축시키지 않으면서도 필요한 최소한의 규제를 마련하겠다는 입장이다. 다만 AI 산업 육성과 안전성 확보를 위한 법률이 국회 문턱을 넘지 못하고 있다. AI 기본법(AI 산업 육성 및 신뢰 기반 조성에 관한 법률)은 지난 2월 과학기술정보방송통신위원회 법안소위를 통과한 후 표류 중이다. 영국 'AI 안전성 정상회의'의 후속 조치로 내년 5월 열릴 미니 정상회의의 공동 개최국이 한국인 만큼 대책 마련이 시급하다.

이와 관련해 콘텐츠 업계는 당장 정당한 지식재산권을 보장할 것을 요구하고 있는 데 반해, AI 업계는 성장동력 상실을 염려하고 있다. 적정 보상이 최대 관건이다.

하정우 네이버클라우드 AI이노베이션센터장은 "한국은 기업 자율 규제를 기반으로 AI 산업의 성장을 도모하고, 여기서 발생하는 문제점을 도출해 개선해 나가는 방식을 취할 필요가 있다"고 강조했다.

장홍성 지능정보산업협회장은 "고위험 영역에 대한 규제는 고려해야 하지만 한국은 산업 진흥에도 여전히 많은 관심을 기울여야 한다. 이런 차원에서 현재 국회에 계류 중인 AI 산업 진흥법안의 조속한 통과가 필요해 보인다"고 말했다.

[이상덕 기자 / 송경은 기자 / 실리콘밸리 이덕주 특파원]

[ⓒ 매일경제 & mk.co.kr, 무단 전재, 재배포 및 AI학습 이용 금지]