[월요논단]'스카이넷' 출현, '블록체인'으로 막을 수 있다

이재석 카페24 대표

'스카이넷'은 공상과학(SF) 영화 '터미네이터'에 등장하는 인공지능(AI) 시스템이다. 최근에는 고도로 발달한 AI가 인류에게 위협이 될 수 있다는 비관론 예시로 자주 언급된다. 그러나 AI 네트워크에 블록체인 개념을 도입해서 상호 견제 시스템을 갖춘다면 스카이넷을 비롯한 위험한 AI 시스템 출현을 방지할 수 있다.

AI가 인류에게 큰 위협이 될 것이라는 주장을 단순히 음모론으로 치부하기는 어렵다. 스티븐 호킹이나 엘론 머스크 같은 유명인들도 나름의 근거로 AI 위험성을 지적하고 있다.

국내외 정보기술(IT) 업계에서는 '버그 없는 완전무결한 운용체계(OS)는 없다'는 문장이 상식으로 통한다. 인간이 만든 결과물에 예기치 못한 부작용이 있을 수 있다는 생각은 일부분 타당하다. AI도 인간이 만들어 낸 결과물이기 때문에 합당한 수준으로 부작용에 대비할 필요가 있다.

AI가 재앙 수준의 피해를 야기하는 시나리오는 크게 두 가지를 예상할 수 있다. 하나는 '터미네이터'에서 스카이넷이 보여 준 인류 점령 또는 멸망이다. 또 다른 하나는 극심한 수준의 테러다. 두 시나리오 모두 AI가 일정 이상 세력화돼야 실현이 가능하다. 인류 역사를 돌아보면 알렉산더 대왕이나 칭기즈칸도 나름의 세력을 갖춘 뒤에야 국지 및 일시 영토를 확장할 수 있었다.

특정 조직이 일정 규모 이상으로 세력을 형성하기 위해서는 운영의 합리성과 조직원 간 신뢰가 반드시 필요하다. 비합리 운영 방식으로는 세를 불리기 어렵다. 신뢰가 없다면 조직 내 배신이 횡행, 쉽게 와해될 수 있다. 구성원 간 신뢰가 두텁고 합리 운영이 되는 사회일수록 범죄 조직이 큰 힘을 발휘하지 못한다. 조직이 속한 사회와 비교해서 비합리한 OS를 추구한 탓에 성장의 한계에 부닥치기 때문이다.

이 같은 원리는 AI 사회에도 대입할 수 있다. 인류 점령을 걱정할 정도로 기술이 발전한 사회를 가정할 때 다양한 AI가 서로 촘촘히 연결돼 있을 가능성이 짙다. 합리성을 극대화한 AI 네트워크에서는 어느 한쪽의 비합리한 결정이 세를 키우기 어렵게 된다. 네트워크 안에서 범죄를 모의한다면 AI 간 배신이 반복될지도 모르는 일이기 때문이다.

ⓒ게티이미지뱅크

서로 연결된 AI의 부정 세력화를 더욱 확실하게 예방하려면 제도화된 시스템이 필요하다. 인류가 핵전쟁으로 인한 공멸을 막기 위해 설립한 국제원자력기구(IAEA)와 핵확산금지조약(NPT)에서 실마리를 찾을 수 있다. 이 두 사례는 핵 확산과 불순한 사용을 막기 위한 국가 간 상호 감시 및 견제 시스템이다.

AI도 상호 견제 시스템으로 일방향의 편중된 세력화를 방지할 수 있다. 네트워크에 블록체인 기술을 접목해서 AI 간 상호 견제를 유도하며 세력 균형을 유지하는 것이 기본 골격이다. NPT 회원국 간 감시와 견제가 네트워크 안에서 상호 검증이라는 블록체인 기술로 구현되는 형태다.

비트코인은 채굴 작업 등으로 시스템 유지에 기여하는 작업자에게 코인이라는 이익을 제공한다. AI 네트워크도 유지 관리에 기여하는 쪽에 일정한 이익을 주는 방식을 도입하거나 블록체인 생태계의 운영 방식을 참고할 수 있다.

AI 비관론자들은 세계사에 핵폭탄이 등장했을 때와 비슷한 공포와 두려움을 느낄 지도 모른다. 그러나 인류는 오랜 기간 나름대로 핵 안전망을 구축했다. AI도 사회 협의를 거쳐 안전하고 유용하게 활용할 수 있을 것이라고 기대한다.

이재석 카페24 대표 jslee@cafe24corp.com

[Copyright © 전자신문. 무단전재-재배포금지]