[최희원의 IT세상]인공지능 통제불능 시대 오나

며칠 전 밤새 내린 눈 때문에 오랜만에 지하철을 타고 출근했다. 일찍 나와서인지 지하철 안은 생각보다는 덜 붐볐다. 승객 대부분은 스마트폰에 시선을 고정시키고 있다. 그들은 예외 없이 귀에 이어폰을 끼고 있었다. 야릇한 침묵 속에 스마트폰에 무표정하게 고정된 시선, 그곳에 인간의 생명 같은 건 없는 것처럼 보였다. 물론 생동감과 착각한 건 아니다. 그들은 마치 목적 없이 내달리는 유령열차에 몸을 맡긴 인공지능 로봇처럼 무미건조했다.

테슬라의 최고경영자(CEO) 일론 머스크의 말이 떠올랐다. “인류의 현존하는 가장 큰 위협은 인공지능이다. 인공지능은 핵무기보다 더 위험할 수 있다. 인간이 디지털 초지능을 위한 생물학적 장치로 전락할 가능성이 커지고 있다.”

물리학자 스티븐 호킹도 비슷한 말을 했다. “완전해진 인공지능은 인류의 멸망을 초래할 수 있다. 진화 속도가 느린 인간은 자체 개량이 가능한 인공지능의 등장으로 경쟁에서 밀리고 결국 인공지능에 대체될 것이다.”

아마존의 에코가 애플과 구글을 제치고 인공지능 스피커 시장에서 두각을 나타내는 등 인공지능 시장은 초기라고 해도 과언이 아니다. 그것이 진정한 의미에서 AI(Artificial Intelligence)가 아니라고 지적하는 과학자들도 있긴 하다. 그런 상황에서 머스크의 말은 다소 과장처럼 들릴 수도 있지만 현실은 그렇지 않다.

새해 벽두 알파고는 세계랭킹 1위인 중국의 커제 9단에게 3전 전승으로 승리했다. 지난해 이세돌에게 한번 패배한 후 올 초 60국을 전부 승리로 이끌었다. 이세돌은 어쩌면 알파고를 이긴 마지막 인간으로 남게 될지 모른다. 알파고의 무한질주에 두려움마저 든다. 인공지능이 인간을 따라잡을 날이 그리 머지않았다는 생각은 기우일까. 과학자들 사이에서는 향후 30년 뒤면 인공지능이 인간의 통제를 벗어날 수 있을 것으로 예측한다. 구글, 아마존 등 5개사는 인공지능이 인간을 통제하는 세상을 우려해서 인공지능 연합체를 만들어 미래를 준비하고 있다. 구글의 인공지능 부문인 딥마인드와 옥스퍼드대 과학자들은 비상시 작동을 멈추게 할 인공지능 킬(kill) 스위치를 개발 중이다. 고수준의 인공지능을 계획적으로 설계하는 것은 쉬운 일이 아니다. 인공지능 개발자들은 지능형 기계에 올바른 명령을 내릴 수 있다고 여기고 있으나, 그 결과에 대해서는 전혀 예측할 수 없다고 말한다. 전원을 꺼버리면 끝나는 게 아니냐고 생각하는 사람들이 있지만 슈퍼 인공지능 시스템은 인간이 자신들의 전원을 끌 수도 있다는 위험을 인지하고 있다는 섬뜩한 사실을 알아야 한다고 알려준다. 문제는 바로 여기 있는 것이다.

타르코프스키 영화 <솔라리스>는 어떻게 보면 SF를 가장한 철학영화라고 볼 수도 있다. 주인공들은 인간의 미개척지인 우주, 솔라리스라는 행성에 도착한다. 그것에서 지적 외계생명체와 접촉을 시도한다. 하지만 타르코프스키는 우주라는 미개척지에 천착하지 않는다. 영화 속에 나오는 박사의 말은 감독의 말이기도 하다.

“과학은 부질없소. 우리에게 우주 정복 따위의 야망은 없는 거요. 단지 지구의 영역을 우주로 확대할 뿐. 더 이상의 세계는 필요 없소. 인간은 자신을 비춰볼 거울을 필요로 할 뿐이오. 인간에겐 인간이 필요할 뿐이오.” 타르코프스키는 우리가 먼저 탐험해야 할 새로운 미개척지는 우주보다 마음이라고 말한다.

우리는 그동안 테크놀로지 개발에서 만드는 도구가 어떻게 비이성적으로 사용될지, 그에 대한 도덕적 윤리적 책임 등에 대해 간과했다. 나아가 기술의 냉혹한 칼날을 지혜롭고 현명하게 겨누는 것에 대한 논의는 말할 것도 없다. 결국 기술지상주의로 길을 잃은 우리는 어쩌면 로봇, 인공지능에게 통제를 자청한 것인지 모른다. 타르코프스키가 말한 것도 같은 차원일 것이다. 윤리적 차원에서 기계는 우리 선한 의지의 연장선상에서 작동하도록 설계되고, 준비되어야 한다.

스탠리 큐브릭의 <2001 스페이스 오디세이>는 SF영화의 고전으로 통한다. 인공지능 로봇 ‘할9000’이 인간을 지배하려고 반란을 일으키는 장면은 보고 또 봐도 섬뜩하다. 최근 개봉한 영화 <트랜센던스>와 <엑스마키나>에는 인간과 비슷한 지능을 갖춘 고도로 발달한 인공지능이 등장한다. 두 영화 공히 미래인류에게 인공지능이 어떤 결과를 초래할지에 대한 혼란스러운 고민을 담고 있다. 영화가 예측하는 세계는 역시 암울한 디스토피아다. 인간문명이 종말을 맞는 디스토피아. 인공지능은 인간의 자유와 해방 대신 감시와 지배, 억압의 도구로 다루어진다. 스티븐 스필버그는 'A.I.'에서 인간보다 더 인간적인 인공지능 로봇을 묘사하지만, 우리가 예견하는 세상은 어쩐지 스필버그의 것보다는 전자에 가까워서 우려스러울 뿐이다. 타르코프스키가 남긴 숙제를 풀게 되면 문제는 조금 덜 어려워질 수도 있다.

<최희원 ‘해커묵시록’ 작가·인터넷진흥원 수석 연구위원>

▶ 경향신문 SNS [트위터] [페이스북]
▶ [인기 무료만화 보기]

©경향신문(www.khan.co.kr), 무단전재 및 재배포 금지