‘고위험 AI’ 규제 않고 국민안전 지킬 수 있나 [왜냐면]

지난 26일 오전 국회 과학기술정보방송통신위원회에서 인공지능(AI) 기본법이 통과되고 있다. 연합뉴스

이장희 | 국립창원대 법학과 교수

국회 과학기술정보방송통신위원회(과방위)가 인공지능(AI)의 안전 규제와 산업 진흥을 저울질하더니 결국 산업 진흥 쪽으로 치우친 인공지능법안을 의결하였다. 산업 진흥도 필요하겠지만 국민의 삶과 안전, 기본권을 지키는 일이 국가의 핵심적 역할이기 때문에 최소한 비윤리적 인공지능은 금지하고, 고위험 인공지능에 대한 처벌규정을 담은 인공지능법을 제정하리라 기대하였다. 그런데 지금 돌아가는 분위기를 보면 안전과 기본권 보호의 문제는 산업 진흥을 위해 뒷전으로 밀리는 것으로 보인다.

최근 여론도 산업 진흥을 선호하는 입장이 많아 보인다. 대한민국의 인공지능 국가경쟁력이 세계 6위나 되는데도 “겨우 6위에 불과하다”고 걱정하는 사람들이 있고, 인공지능 관련 신제국주의적 경쟁이 심화하는 상황에서 우리가 인공지능 종속국이 아니라 패권국이 되기 위해선 과감히 규제를 없애야 한다는 의견도 있다. 또 우리나라는 인공지능 소비자인 유럽의 경우와 다르고 미국처럼 개발자에 가깝기 때문에 유럽연합(EU)의 인공지능법처럼 ‘고위험 인공지능’을 금지하거나 규제하면 안 된다는 주장도 있다.

아니, 과거 제국주의는 결국 인권의 침해와 전쟁으로 이어졌는데 우리가 인공지능 패권국이 되기 위해서는 인권 침해나 안전 문제는 외면해도 된다는 말인가? 산업 진흥을 위해 과거에 인권과 안전의 가치를 외면하던 정부 주도의 개발독재 시대로 되돌아가자는 말인가?

인공지능은 인간이 개발한 도구다. 도구는 누가 어떻게 쓰냐에 따라 사람을 살릴 수도 있지만 위험에 빠뜨리거나 죽일 수도 있다. 그런데 인공지능은 단순한 도구 이상의 의미를 가진다. 인간의 능력을 대체하여 독자적으로 기능할 수 있기 때문이다. 이미 인공지능의 수준이 인간의 능력을 뛰어넘었다는 지적도 있다.

인공지능이라고 해서 여러 영역에서 사람에게 주는 영향이 같은 것은 아니다. 특히 인간의 생명과 신체, 건강과 안전, 인권, 민주주의, 국가 안보나 공공복리에 중대한 영향을 미치는 이른바 ‘고위험 인공지능’도 있다. 이에 대해서는 법적 규제가 필요하다고 여러 학자들이 지적해 왔다. 챗지피티(GPT)로 유명한 오픈에이아이(AI)의 최고경영자 샘 알트먼도 인공지능을 심각한 피해가 발생할 수 있는 항공기처럼 규제해야 한다고 하였다. 올해 제정한 유럽연합의 인공지능법에도 ‘고위험 인공지능’에 대한 규제 요구가 반영되었다. 인공지능이 아무리 편익을 준다고 하더라도 그 위험으로부터 사람의 안전을 먼저 확보하는 것이 필요하다는 것이 핵심이다.

‘고위험 인공지능’에 대한 규제 요구는 과학기술의 윤리적 한계에서 비롯되는 것이기도 하다. 예를 들어 생명공학 기술이 아무리 경제적 편익을 줄 수 있더라도 인간을 복제해서는 안 된다는 윤리적 한계가 있고, 이에 따라 현행 생명윤리법은 인간복제를 금지하고 있다. 마찬가지로 ‘고위험 인공지능’은 사람의 안전과 인권 등을 심각하게 침해할 수 있다는 점에서 윤리적 한계가 있기 때문에 법적 규제가 요구되는 것이다.

하지만 최근 국회 과방위를 통과한 인공지능법안을 보면 안전을 위한 규제보다는 산업 진흥에 치중되어 있다는 점에서 문제가 있다. ‘고위험 인공지능’이라도 사전에 금지하지 않고 단지 사업자에 의한 자율규제와 사후규제만을 하겠다고 한다. 그러나 자율규제는 결국 지켜지지 않고 실패할 수 있다. 더구나 돈을 벌 수 있는 기회 앞에서 자율규제나 가이드라인은 사실상 무규제가 될 수 있다. ‘고위험 인공지능’까지 제한 없이 허용하면서 사고가 터진 후에 사후적으로 수습하겠다는 인공지능법안은 결국 안전보다는 돈벌이에 더 큰 가치를 두는 것으로 볼 수밖에 없다.

새롭게 성장하는 인공지능 산업을 위해 법·제도를 마련하고 지원하는 일은 정부의 역할이고 과제다. 하지만 산업 진흥에 앞서 정부는 국민의 기본권을 보호하고 안전을 먼저 확보해야 한다. 우리 헌법 전문에는 “우리들과 자손들의 안전과 자유와 행복을 영원히 확보”하여야 함을 강조하고 있다. 자유와 행복에 앞서 안전을 언급한 것은 안전해야 비로소 자유롭고 행복할 수 있기 때문이다. 이것이 대한민국 정부의 존재 이유이고 헌법적 의무다. 국회의 인공지능법 제정에서도 우리 헌법상 안전의 가치는 최고의 기준과 지침이 되어야 한다.

백번 양보하여 산업진흥법처럼 인공지능법을 만들더라도 적어도 비윤리적 인공지능은 법으로 금지하여야 한다. 그 실효성을 확보하는 제재 수단도 필요하다. 지금처럼 단순히 사업자에게 책임성을 부여하고 신뢰성·안전성 조치를 요구하는 것만으로는 충분할 수 없다. 우리가 과거 개발독재 시대처럼 인공지능 산업의 진흥을 위해 인공지능의 위험을 감수하거나 안전까지 포기해야 하는 것은 아니지 않은가. 인공지능 산업도 안전과 인권의 토대 위에서만 올바르게 발전할 수 있다.

▶▶세상의 모든 책방, 한겨레에서 만나자 [세모책]

▶▶핫뉴스, ‘한겨레 텔레그램 뉴스봇’과 함께!

▶▶한겨레 뉴스레터 모아보기