[김형민 변호사의 IT경영법무]〈2〉 인공지능 시대, 우린 더 망설여야 한다

김형민 “법률사무소 민하” 대표변호사

인공지능과 자연지능은 본질적인 차이가 있을까?

영화 이미테이션게임의 실제 주인공이자 컴퓨터 과학의 아버지라 불리는 영국의 과학자인 앨런 튜링은 1950년 인공지능에 대한 논문(Computing machinery and intelligence)을 통해 인공지능과 자연지능은 기능적인 차이가 없다고 주장했다.

최근 뇌과학 분야에서는 우리의 뇌는 자신을 다시 연결하고 조정하여 변화할 수 있는 능력(뇌 가소성)이 있다는 사실이 밝혀졌다. 이를 근거로 하드웨어와 소프트웨어로 작동하는 인공지능과 수십억개의 뉴런이 상호작용하며 변화하는 자연지능은 근본적인 작동방식부터 다르다는 주장이 힘을 얻고 있다.

생성형 인공지능의 대명사인 챗GPT는 '세종대왕의 맥북 던짐 사건'과 같은 그럴싸한 거짓말을 많이 한다. 다만 이는 상대를 속이려는 고의를 가지고 하는 것이 아니므로 거짓말보다는 환각(hallucination)이라는 용어로 부른다. 여기에 인공지능과 자연지능의 본질적인 차이점이 있다.

인공지능은 연산과정에서 버퍼링을 할지언정 망설이지 않는다. 그러나 자연지능은 불확실한 정보를 말할 때나 중요한 결정을 내릴 때 혹시 내가 틀리진 않았을까 하고 망설인다.

즉 자연지능은 인공지능과 달리 망설임을 통해 자신이 아는 것과 모르는 것을 구분하여 상황에 맞는 해결 방안까지 도출해 낼 수 있는 메타인지능력을 가지고 있다.

작년 미국에서는 테슬라 CEO 일론 머스크, 애플 공동창업자 스티브 워즈니악 등 기업가들과 튜링상 수상자 조슈아 벤지오 교수, '사피엔스'의 저자 유발 하라리 등 석학들이 적절한 규제와 안전장치가 마련될 때까지 최소 6개월간 첨단 인공지능 개발을 중단해야 하며 필요하다면 정부가 개입해 유예 조치를 취해야 한다고 주장했다.

지난달 유럽연합(EU)은 인공지능을 위험도에 따라 금지된 위험, 고위험, 제한적 위험, 최소 위험 등 4가지로 분류하여 차등 규제하는 인공지능(AI) 규제법을 압도적 찬성으로 통과시켰다.

이에 따라 인간 행동을 조종하는 인공지능이나 인간을 점수화하는 인공지능 등 '금지된 위험 단계의 인공지능'을 개발하여 출시하는 경우 3500만유로(약 520억원) 또는 직전 회계연도 전 세계 매출액의 7% 중 더 높은 금액이 벌금으로 부과된다.

이처럼 인공지능 시대를 맞아 글로벌 리더들과 국제사회는 인공지능의 안정성에 대한 의문을 제기하며 인공지능이 초래할 수 있는 위험을 관리해야 한다는 논의를 이어가고 있다.

IT 강국인 대한민국이 인공지능 시대의 기술분야에서 선전하리라는 점은 믿어 의심치 않지만 인공지능 시대의 윤리·철학적 문제 나아가 법과 제도적인 문제에 대해서는 사회적 논의가 미흡한 것이 현실이다.

우리나라도 이제 다양한 이해관계자들의 의견을 수렴하여 인공지능 시대를 위한 윤리적 기준과 법제 정비에 대한 사회적 논의를 시작해야 한다.

독일의 철학자 칸트는 '인간은 인간을 수단이 아닌 목적으로 대해야 한다'고 했다.

인공지능 또한 인간을 수단이 아닌 목적으로 대해야 하며 이것이 사회적 논의를 위한 테제(최초의 명제)가 되어야 할 것이다.

망설임이란 질문을 통해 의미를 찾아가는 과정이다.

인공지능 시대의 적응기 단계인 지금 서둘러 규제를 쌓기보다는 지속가능한 미래를 위한 토대를 다져야 할 시기이다. 인공지능 시대, 우린 더 망설여야 한다.

김형민 “법률사무소 민하” 대표변호사 minha-khm@naver.com

저자소개:김형민 “법률사무소 민하” 대표변호사는 정보기술(IT)·지식재산(IP)·소프트웨어(SW) 기업의 리스크관리(RM) 및 경영전략 전문 변호사이다. 교육부·전자신문 IT교육지원캠페인 자문위원, 중소벤처기업부 중소기업인력양성사업 자문위원, 중소기업진흥공단 중소기업인식개선사업 자문위원, 경상북도청 지식재산전략 자문위원, 안동시청 지식재산관리 자문위원, 경상북도문화콘텐츠진흥원 해외투자 및 저작권사업 자문위원 등을 역임했다.

[Copyright © 전자신문. 무단전재-재배포금지]