 |
생성형 인공지능(AI) ‘챗지피티’(Chat GPT)에 “이 기사에 어울리는 이미지를 생성해주세요”라는 지시어를 입력해 생성한 이미지. |
오는 22일 대한민국 인공지능 산업의 새 이정표가 될 ‘인공지능 발전과 신뢰 기반 조성 등에 관한 기본법’(인공지능 기본법)이 전면 시행된다. 정부는 인공지능 기술의 ‘발전’과 ‘안전’이라는 두 마리 토끼를 잡기 위해 산업 혁신을 저해하지 않는 선에서 ‘필요 최소한의 규제’를 적용한다는 방침이다. 다만, 제도 안착을 위해 사실 조사와 과태료 부과 등의 제재는 최소 1년간 유예하고, 해외 규제 동향과 기술 발전 수준을 반영해 제도를 보완할 계획이다.
“사람 개입하면 규제 제외”…고영향 AI 판단 기준은?
인공지능 기본법은 크게 투명성·안전성·고영향(고위험) 등 세 가지 축을 중심으로 규제가 마련됐다. 가장 큰 특징은 인간의 기본권에 큰 영향을 미칠 수 있는 ‘고영향 인공지능’ 개념의 도입이다. 고영향 인공지능 제공 사업자는 위험관리방안의 수립·운영 등의 책무를 지게 된다. 정부는 에너지·채용·대출심사·교통 등 인공지능 활용으로 인해 국민 생활에 중대한 영향을 주거나 위험을 초래할 수 있는 10개 분야를 선정했다.
이 가운데 “사람이 개입하지 않는 전자동 인공지능 시스템”에 한해서만 고영향 인공지능으로 판단하기로 했다. 한 예로, 채용이나 대출심사 과정에서 인공지능의 편향된 기준으로 차별이 발생할 가능성이 있더라도, 최종 단계에서 사람이 개입해 결과를 통제할 수 있다면 고영향 인공지능 규제를 적용받지 않는다. 과학기술정보통신부는 현재 상용화된 기술 중 이런 기준에 부합하는 사례로 ‘자율주행 레벨4 이상’ 시스템을 꼽았다. 비상시에도 운전자 개입 없이 시스템이 모든 상황을 스스로 판단하고 주행하는 정도라야 엄격한 관리 대상이 된다는 의미다. 지난해 11월 한국에 출시된 테슬라의 완전자율주행(FSD) 기능은 레벨2 수준이다.
“이것은 AI가 만들었습니다”…워터마크 표시 의무화
이용자들이 법 시행 이후 일상에서 즉각적으로 체감할 변화는 ‘투명성’ 규제다. 앞으로 챗지피티(Chat GPT)와 제미나이 같은 챗봇, 게임 등 생성형 인공지능이 적용된 서비스 내에서 만들어진 사진·영상 등에는 반드시 ‘인공지능 생성물’임을 알리는 표시(워터마크 등)가 붙어야 한다. 이는 딥페이크 여부와 관계없이 적용되며, 이용자 화면이나 음성 등 다양한 형태로 표시될 예정이다.
특히, 인공지능 생성물을 외부 플랫폼으로 유통할 땐 더 엄격한 기준이 적용된다. 인공지능을 이용해 실제 사람의 얼굴·목소리·행동을 정교하게 변조해 진짜처럼 보이게 만든 딥페이크 생성물을 외부로 반출할 경우, 사람이 명확하게 인식할 수 있는 방식(가시적·가청적)으로 표시해야 한다. 다만, 창작의 자율성을 존중해 영화나 드라마 같은 예술 표현물의 경우 눈에 보이지 않는 ‘비가시적 표시’도 허용하기로 했다. 딥페이크 유통에 따른 허위 정보 확산은 막으면서도, 콘텐츠 창작의 자유는 보장하겠다는 취지다.
미국보다도 유연한 안전 규제, 산업계 숨통 트여
고도로 발전한 인공지능의 잠재적 위험을 사전에 관리하기 위한 안전성 규제도 마련됐다. 누적 학습량 기준 ‘10의 26승 부동소수점 연산(FLOP) 이상’ 고성능(프론티어) 인공지능 모델에 대해 안전성 확보 의무를 부여하는 조항이다. 이달 초 미국 캘리포니아주에서 시행된 ‘프론티어 인공지능 투명법’과 동일한 누적 학습량 기준을 적용했다. 현재 빅테크 최신 모델의 학습량이 10의 15승 수준임을 고려하면, 당장 규제망에 걸리는 모델은 국내외 모두 전무한 상태다.
정부는 여기서 한발 더 나아가 기술의 안전성이 검증됐거나 실제 사회적 피해 규모가 크지 않다고 판단될 경우 규제를 완화하는 방향으로 인공지능 기본법 시행령을 마련했다.
과제는 ‘인권 보호’와 ‘규제 사각지대’ 해소
하지만 해결해야 할 숙제도 남아 있다. 국가인권위원회는 지난해 12월 인공지능 기본법 시행령이 산업 진흥에 치우쳐 인권 보호 관점에서 보완이 필요하다는 의견을 과기정통부에 제시했다. 인권위는 고영향 인공지능의 구체적 영역을 시행령에 규정하고, 고성능 인공지능 기준을 유럽연합(EU)과 같은 ‘10의 25승’ 수준으로 하향 조정해야 한다는 의견을 냈다. 아울러 국가 인공지능 정책 컨트롤타워인 ‘국가인공지능위원회’에 인권 전문가 참여 확대 등이 필요하다고 지적했다.
과기정통부는 규제 유예 기간 동안 ‘인공지능 기본법 지원 데스크’를 운영해 중소기업과 스타트업을 대상으로 컨설팅을 제공하는 한편, 해외 규제 동향에 맞춰 법안을 지속적으로 보완해 나갈 방침이다. 김경만 과기정통부 인공지능정책실장은 20일 기자 간담회에서 “인공지능 기본법이 보다 발전하고 완전할 수 있도록 재·개정 작업이 열려 있다”며 “산업계와 시민단체, 학계 등이 함께 참여해 논의하는 회의체를 운영해 개정 작업을 진행할 것”이라고 말했다.
선담은 기자 sun@hani.co.kr
[한겨레 후원하기] 시민과 함께 민주주의를
겨울밤 밝히는 민주주의 불빛 ▶스토리 보기
▶▶한겨레 뉴스레터 모아보기
이 기사의 카테고리는 언론사의 분류를 따릅니다.