[이광석의 디지털 이후](15)‘AI 국가전략’에 사람은 어디 있죠?

인공지능 국가전략의 비애

인간의 통제능력 범위를 벗어난 인공지능이 ‘지능 폭발’ 단계에 이르면?

우리 일상을 구성하고 사회적 잣대가 되고 인간 규범이나 판단을 대신하면?

인간의 얼굴을 한 야만의 기술 질서가 도래하면?

‘의식의 탈숙련’ 현상이 일어나면? 첨단기술이 지구환경을 잠식하면?

호킹 등 많은 세계 지성들이 경고했듯…인공지능은 장밋빛 미래로만 보기엔 ‘예민한 기술’

작년 정부 관계부처가 발표한 ‘AI 국가전략’

성급한 기술 낙관과 성장숭배가 압도…기술재난에 대한 고려는 안 보여

알고리즘 부당함에 맞서는 ‘민주적 인공지능의 운용 원칙’ 정립해야…이는 성장만큼이나 시급하다

지난해 12월 정부 관계부처가 합동으로 ‘인공지능(AI) 국가전략’을 발표했다. ‘IT 강국을 넘어 AI 강국으로’라는 거창한 국민 계몽 슬로건도 함께 내걸었다. 그보다 몇 개월 앞서 문재인 대통령은 ‘인공지능 기본구상’을 내놓았다. 인공지능을 기업 성장과 수익의 동력으로 삼고, 우리 모두가 이에 걸맞게 인공지능 활용에 뛰어난 ‘일등 국민’이 돼야 한다는 것이 요지였다. 문 대통령의 기본구상 발표가 인공지능을 향한 국가 비전 선포식이라면, ‘AI 국가전략’은 구체적 실현 방향과 추진의 청사진 제시라 할 수 있다.

국가 수장을 비롯해 관련 부처들이 인공지능에 대한 대규모 국가전략을 제시한 것은 근래 꽤 보기 드문 일이다. 역사적으로 보면 1990년대 중반 선진국들 중심으로 소위 ‘정보 초고속도로’, 즉 인터넷 초고속망 구축을 통해 닷컴 질서를 열려고 했던 때가 포개져 떠오른다. 당시 민간 정부가 출범하면서 경제 체질 개선의 일환으로 정보 인프라 중장기 계획을 세웠던 정책 경험 이래 거의 처음 겪는 대격변이 아닐까 싶다.

그때의 성공 이력처럼 이번에도 ‘AI 강국’이 곧 실현될 것만 같다. 분위기상 그렇다. ‘AI 국가전략’을 보면, 정부는 2030년까지 인공지능 인프라를 확대하기 위해 천문학적 예산 투입, 관련 기업 환경 조성, 법제도 개정, 대국민 인공지능 저변 확대 등에 총력을 쏟고 있다. 또 다른 한 세기 성장과 부흥의 먹거리로 인공지능이 우리의 모든 시야를 압도하고 있는 것이다.

■ AI 기술 숭배의 함정

‘AI 국가전략’은 인공지능이 “단순한 기술적 차원을 넘어 인문사회 등 모든 영역에 걸친 패러다임의 변화”를 이끌 가공할 만한 기술이란 점을 강조한다. 그런데, 이 “거대한 문명사적 변화”를 주도하는 인공지능의 위상 평가에 비해, 정부는 과거 정보 인프라 구축 시절처럼 아주 판박이로 인공지능 기술을 국내 산업 혁신과 성장의 발판으로 삼는 데 주목한다. 관련 시장, 법제도, 교육, 노동시장 개선 등도 이 혁신과 성장 코드에 모두 맞춰져 있다. 그래서일까. 전략 계획 전체를 꼼꼼히 다 들여다봐도 인공지능 기술이 지니는 패러다임 전환 혹은 우리 사회에 미치는 기술 위력에 대한 대비책은 이상하리만치 단서조차 찾기 어렵다.

삼척동자도 이미 잘 아는 얘기지만, 인공지능 기술의 효과나 위력은 기존 정보통신기술의 무게감과 비교해 현격히 다른 질감을 지닌다. 인공지능은 마치 핵재앙 그 이상으로 인류에게 미치는 위력이나 파급력이 커서 한번 인간의 통제능력 범위를 넘어 ‘지능폭발’ 단계에 이르면 이를 이전 상태로 되돌리거나 수습할 수 있는 여지가 거의 사라진다. 즉 인공지능은 혁신성장을 가속화하지만, 이의 적용과 동시에 사회 리스크 관리 부담과 비용을 부단히 늘리는 예민한 기술인 것이다.

■ 인공지능의 기술재난 변수

영국의 이론물리학자 스티븐 호킹은 이미 그의 생전에 인공지능의 위험에 인류가 철저히 대비하지 않으면 예상치 못한 대재앙에 이를 것이라고 수없이 경고했다. 그를 비롯해 전 세계 과학기술자, 글로벌 닷컴 기업가, 연구자 등이 모여 ‘아실로마 AI 원칙’을 발표하기도 했다. 이들 전문가는 인간처럼 ‘생각하는 기계’가 인류 문명에 미칠 파급력과 위험성을 환기하면서, 적어도 이 기술의 인류 ‘공동선’ 원칙에 대한 국제 합의를 이끌어냈다.

인공지능 기술 수준과 관련해 보자면 보통 구글의 알파고나 IBM의 왓슨과 같이 자의식 없이 사람의 지능을 흉내 내거나 특정 계산 등 한 가지 수행성을 높여 제작한 ‘약한 인공지능’, 그리고 공상과학 영화에서나 볼 수 있는 인간과 같은 직관적 판단 능력을 지닌 생각하는 기계인 ‘인공 일반 지능’(Artificial General Intelligence·AGI) 혹은 ‘강한 인공지능’으로 나뉜다.

알고리즘 선택과 처리 과정에 대한 인간 개입이 클수록 약한 인공지능이고, 스스로 객체화돼 어떤 지적 업무도 성공적으로 해내는 범용의 지능체가 AGI 혹은 강한 인공지능이라 할 수 있다. 호킹 등 기술 비판적 논자들이 우려했던 것은 곧 닥칠, 인간의 통제와 제어 능력을 벗어난 ‘강한’ 인공지능 사회의 도래였다.

또 다른 기술재난 변수는 인공지능이 사회 현실의 주요 판단과 행위를 위한 기술 설계로 굳어지면서 가면 갈수록 현실에서 사회공학과 기술공학의 사리 구별이 어려워진다는 것이다. 우리 주위를 둘러보라. 이미 직원 AI 면접, 지능형 무인점포, 플랫폼 배달노동의 알고리즘 경영, 고객 소셜 데이터 신용 평가, 인공지능 스피커 응대, 법원 판결 빅데이터 보조역, 인공지능 예술 창작, 무인자동 요리 및 안내 로봇 서비스, 언론 기사봇과 소셜미디어 채팅봇, 바둑 및 체스 인공지능 기사, 학술토론 인공지능, 빅데이터 물류관리 및 유통 알고리즘 시스템, 유튜브나 넷플릭스 콘텐츠 취향 분석 및 예측 알고리즘, 소셜미디어의 맞춤형 광고 알고리즘, 댓글 자동생성 알고리즘, 소셜미디어 이용자 매칭 정치 캠페인 등등 인공지능 기술이 삶의 곳곳에 파고들면서 사회적 명령과 판단의 자동 대행 효과를 구현하고 있다. 인공지능 알고리즘이 이렇듯 범용화돼 우리 일상을 구성하고, 사회적 잣대가 되고, 인간 규범이나 판단을 대신할 때 과연 우리 사회의 운영은 어디에 기대야 하는가?

■ ‘AI 국가전략’의 논리 오류

‘AI 국가전략’은 과연 이와 같은 인공지능 고유의 기술재난 변수를 진지하게 고려하고 있는가? 아쉽게도 국가 계획안은 신생 기술에 기댄 성장주의에 그 모든 국가 공력을 집중하는 위험성을 안고 있다. 새로운 성장의 기술 동인을 찾아 국부를 키우려는 노력은 응당 정부의 일이라 할 수도 있다. 하지만 인공지능 기술의 잠재적 파괴력과 자동화된 사회 문제를 또한 인정한다면, 좀 더 균형감 있게 인공지능 기술 안착을 위해 필요한 사회 원칙과 구상을 구체화했어야 했다.

하지만 국가전략에서는 성급한 기술 낙관론과 성장숭배가 압도한다. 인공지능이 인간 사회와 삶 자체를 편리하고 효율적으로 바꿀 것이란 장밋빛 가정이 짙게 깔려 있다. 가령 인공지능을 통한 ‘사회문제 해결’ 필요성을 언급하면서 ‘고령화 시대 노인 돌봄, 범죄 예방, 국민 안전 강화, 맞춤형 서비스를 통한 국민 생활 편의’ 등 주로 사회적 순기능만 강조하고 있다. ‘사람 중심’의 인공지능 구현 또한 부실하기 그지없다. ‘취약계층에게까지 널리 인공지능의 기본 소양 교육과 기술 혜택이 돌아가는 것’이 ‘사람 중심’이며 시민의 ‘삶 만족도’를 높이는 일이라 단정한다. 인공지능의 기술 편리나 혜택을 ‘사람 중심’으로 추켜세우는 꼴이다.

유럽연합(EU)을 비롯해 선진국들의 움직임은 우리와 많이 다르다. 이른바 인공지능 사회 원칙과 AI 윤리 가이드라인 제정을 그 무엇보다 중요한 국가 과제로 삼아 이미 기초작업을 끝냈다. 우리는 좀 늦어져 올해 ‘AI 국가전략’과 연계해 준비 중이다. 다른 국가의 인공지능 추진 방식이나 내용은 우리와 질적으로 큰 차이를 보인다. 이들은 주로 인공지능 기술 도입이 미치는 사회영향평가, 범시민사회 거버넌스 협의 체제 구축, 인공지능 가이드라인과 사회 대원칙 마련, 그리고 경제 성장 활용이나 범용화 계획으로 이어지는 논리적 수순을 거친다. 이에 비해 우린 꽤 다르다. 즉 우리의 경우 다른 나라들과는 역전된 상황을 줄곧 마주한다.

물론 우리 정부도 지난해 5월 인공지능 기술을 직접 다루고 있진 않아도 ‘지능정보사회 윤리 가이드라인’을 준비해 내놨다. 하지만 아쉽게도 최소 수준의 추상적 윤리원칙에 대해 확인만 하는 정도다. ‘AI 국가전략’에서도 이는 반복된다. “AI 확산으로 생길 수 있는 역기능과 보안 위협에 대비한” 윤리 규범 마련이 주된 관심사로 언급된다. 인공지능의 기술공학이 사회 지배논리가 될 여지가 큰 우리 기술과잉 현실에서 안이한 접근이 아닐 수 없다. 그러다보니 우리식 인공지능 윤리나 규범 마련을 위한 움직임조차 실제 시장을 위한 구색이거나, 성장을 위한 알리바이라는 의심을 받아도 뭐라 대꾸하기 어렵다.

가령 2018년 EU 집행위원회가 마련한 ‘신뢰할 수 있는 AI 윤리 가이드라인’을 보자. 이는 그저 AI 윤리지침이라 보기 어려울 정도로 인공지능 적용의 포괄적 사회 원칙과 국가 의제를 담고 있다. 즉 ‘인간 중심’의 인공지능 적용 항목만 하더라도 인간 존엄성, 개인의 자유, 민주주의, 평등, 비차별 및 소수자 보호, 인공지능으로 위협받는 시민권과 노동권 보호 등을 구체화하고 있다.

같은 해 일본 내각부에서 발표한 ‘인간 중심의 AI 사회 원칙’도 이와 크게 다르지 않다. 일본 정부는 인공지능의 효율성과 편리로 인해 인간 존엄성이 훼손돼서는 곤란하다는 인본주의적 접근을 재천명하고, 동시에 다양한 배경을 지닌 이들의 행복추구권, 사회격차 해소와 지구 환경문제에 대응해 인류의 지속 가능성 보장, 구체적 기술 변화에 대응한 사회 협치체제 마련을 인공지능 활용의 기본 이념이자 전제로 삼고 있다. 이렇게 우리보다 앞서 인공지능 윤리 규범이나 원칙을 마련한 국가들 대부분은 성장 추구에 앞서 사회 차원에서 기술 재난이나 인간 기본권 위협과 관련된 국가 대비책을 미리 준비하고 있다.

게다가 EU, 일본 등은 기본적으로 인공지능 윤리지침과 사회 대원칙의 내용에서 기술 투명성, 개인정보 보호, 기술적 안정성, 사회 책임성, 다양성, 비차별성, 공평성 등 기본적인 인공지능 윤리 조항들과 함께 ‘지속 가능하고 환경 친화적인 인공지능’ 요건을 강조한다. 정부가 4차 산업혁명의 첨단기술 성장론을 피력하는 것에 비해 아직까지 지구 환경과 이들 첨단기술의 지속 가능한 관계 설정에 대한 어떤 생태적 관점이나 환경 유해성과 관련된 진술조차 없는 우리 현실과는 크게 대비된다.

■ ‘민주적 인공지능’의 사회 설계

한 사회가 지능형 인공 장치들에 판단을 위임하거나 자동화할수록 주요 사안들에 대한 시민들의 비판적 개입이나 숙의 과정이 생략될 확률이 높아진다. 마치 산업시대 공장 노동자가 기계화로 노동이 탈숙련 과정을 겪고 소외된 것처럼, 오늘날 각종 지적 판단이나 행위 결정이 알고리즘 자동화 기계로 많은 부분 빠르게 위임되면서 시민 각자 ‘의식의 탈숙련’ 현상이 일어날 수 있다. 그 어느 때보다 인공지능이 구조화하는 현실에 대한 시민사회의 긴장과 개입적 실천이 필요하다.

단순히 정부가 ‘사람 중심’의 인공지능을 언급한다고 해서, 첨단기술이 지닌 잠재적 위험성이 거세되는 것은 아니다. 외려 인간의 얼굴을 한 야만의 기술 질서가 쉽게 도래할 수도 있다. ‘AI 국가전략’의 기술경제 활성화 논리 안에서 ‘포용’ ‘사람 중심’ ‘감수성’ 등 공허한 단어들을 단순히 구색용으로 쓰는 구습에서 벗어나야 한다. 올 초 그리 말 많던 시민 데이터 권리의 이른바 사망 선고식이 된 ‘데이터 3법’ 개정안의 국회 통과가 이뤄졌다. 법 개정은 ‘AI 국가전략’ 계획의 기반 마련을 위한 사전 기초작업이란 점에서 의미심장하다. ‘사람 중심’ 국가전략과 무관한 정반대 흐름이다.

진정 ‘AI 강국’으로 가는 길이 과연 무엇인가에 대한 본질적 점검이 필요해 보인다. ‘사람 중심’의 인공지능 국가전략은 당연히 시장 주체를 지원하면서도 기술(디자인 설계), 사회(선택과 범위 규제), 거버넌스(민주적 논의 구도) 층위 모두에서 발생하는 ‘알고리즘의 부당함’(algorithmic injustice)에 맞서 ‘민주적 인공지능’의 운용 원칙을 체계적으로 정립하는 일이기도 하다. 우리 국가전략이 잠시 실수로 빠뜨린 듯 보이는 인공지능의 민주주의적 설계를 우리 사회에 어떻게 마련할 것인지에 대한 과제는 성장만큼이나 시급하다.

▶필자 이광석

이광석은 테크놀로지, 사회, 문화가 서로 교차하는 접점에 비판적 관심을 갖고 연구와 집필 활동을 해오고 있다. 현재 서울과학기술대학교 IT정책대학원 디지털문화정책 전공 교수로 일한다. 주요 연구 분야는 테크노문화, 미디어·아트 행동주의, 커먼즈, 노동과 테크놀로지에 걸쳐 있다. 대표 저서로 <데이터 사회 비판> <데이터 사회 미학> <뉴아트행동주의> <사이방가르드> <디지털 야만> 등이 있고, 기획해 함께 쓴 책으로 <사물에 수작 부리기> <불순한 테크놀로지> <현대 기술·미디어 철학의 갈래들> 등이 있다.

이광석

▶ 장도리 | 그림마당 보기

▶ 지금 많이 보는 기사

▶ 댓글 많은 기사

©경향신문(www.khan.co.kr), 무단전재 및 재배포 금지