[홍성욱의 포스트휴먼 오디세이] "기계도 생각할 수 있을까?" 천재 수학자가 물었다

[<6>컴퓨터공학 선구자 '앨런 튜링'과 생각하는 기계의 출현…전자컴퓨터 기술적 토대 마련]

1954년 6월 7일, 영국의 수학자이자 컴퓨터 공학의 선구자 앨런 튜링(Alan Turing, 1912-1954)은 자택에서 스스로 목숨을 끊은 채로 발견됐다. 그의 사인은 청산가리 중독이었다. 그의 침대 옆에는 먹다 만 사과가 하나 놓여 있었다. 널리 알려진 바와 다르게 경찰은 사과를 조사하지 않았고, 어떤 과정에서 그가 청산가리에 중독되었는지는 밝혀지지 않았다. 따라서 그가 (마치 백설공주처럼) 독을 바른 사과를 한입 베어 먹고 죽었다는 얘기는 신화(myth)에 가깝다.

튜링은 1952년에 동성애로 재판을 받았다. 당시 남성들의 동성애는 2년의 징역형에 처할 수 있는 범죄였고, 튜링은 징역형과 '화학적 거세' 중 하나를 선택해야 했다. 그는 여성호르몬을 주입하는 화학적 거세를 선택했고, 재판과 1년에 걸친 호르몬 주입의 과정에서 크게 좌절했던 것으로 보인다. 여성처럼 가슴이 부풀어 오르는 것에 대해서 괴로워하던 심정을 친구에게 토로하기도 했다. 호르몬 주입이 끝나고 튜링은 다시 일상생활과 연구로 복귀하는 것 같았다. 그 무렵에 그가 생의 마지막을 생각했다는 단편적인 증거가 없지 않지만, 그의 주변 지인들에게 그의 갑작스러운 자살은 이해하기 힘든 수수께끼였다.

영국의 수학자이자 컴퓨터 과학의 선구자 앨런 튜링.

◇ 컴퓨터의 착상, 에니그마, AEC 보고서

튜링에 대한 가장 권위 있는 전기는 앤드류 호지스(Andrew Hodges)가 집필한 『앨런 튜링』(동아시아, 2015)이다. 그런데 호지스는 이 전기의 부제를 '에니그마'(enigma), 즉 '수수께끼'라고 붙였다. 왜 에니그마일까? 튜링의 삶과 업적에는 이해하기 힘든 수수께끼 같은 면이 있기 때문이 아닐까?

현대 컴퓨터의 개념 설계가 포함된 그의 첫 논문을 이해하기 위해서는 '기계의 세기'인 20세기 초로 거슬러 올라가야 한다.

당시 유럽 최고의 수학자로 명성을 얻고 있던 독일의 힐베르트(David Hilbert)는 기계화되는 세상을 보면서 놀라운 상상을 했다. 수학자들이 몇 년을 끙끙거려서 해결하는 복잡한 증명을 기계가 전부 할 수는 없을까? 수학의 증명은 몇 가지 공리와 추론을 위한 규칙들로 이루어져 있는데, 그렇다면 이를 기계적으로, 혹은 자동으로 하는 것은 불가능할까? 수학자들은 이 문제를 놓고 수년 동안 끙끙댔는데, 1931년에 독일의 수학자 쿠르트 괴델(Kurt Gödel)이 이것이 불가능하다는 것을 증명했다. 수학자가 기계보다 뛰어나서라기보다는, 수학 체계 속에는 공리와 추론규칙만으로 증명할 수 없는 명제가 항상 존재하기 때문이었다.

괴델의 증명이 유럽 지성계에 던진 충격은 대단했다. 괴델의 증명은 인간 이성의 한계를 보여준 것이라고 해석됐고, 이는 지식 체계의 확실하고 굳건한 토대를 구축하려 했던 과학자들과 철학자들을 좌절시켰다.

튜링이 다니던 케임브리지 대학교에서도 괴델의 증명은 화제 거리였고 토론의 대상이었다. 24살의 수학과 대학생이던 튜링은 자신만의 방법으로 괴델의 증명을 재연하는 '계산 가능한 수와 결정문제에 대한 응용에 관하여'(1936)라는 논문을 출판했다. 그런데 이를 증명하는 과정에서 튜링은 특정한 규칙에 따라 무한히 긴 테이프에 새겨진 기호를 읽는 가상의 기계를 고안했다.

'튜링 기계'(Turing Machine)이라 불리는 이 기계는 지금으로 따지면 컴퓨터의 CPU가 하는 것 비슷한 역할을 했다. 그는 여기서 그치지 않고 다른 튜링 기계들이 수행하는 알고리듬을 정확하게 모사하는 '보편 만능 기계'(Universal Machine)를 착상했다. 이 기계는 인간이 할 수 있는 모든 알고리듬을 그대로 수행할 수 있었는데, 컴퓨터 과학자들은 이 보편만능 기계에서 최초의 프로그램 내장형 컴퓨터의 개념을 찾을 수 있다고 평가한다.

2차 세계대전이 발발하면서 튜링은 독일군의 암호를 해독하기 위한 비밀 작전에 투입됐다. 작전 본부는 런던에서 조금 떨어진 블레츨리 파크(Bletchley Park)의 고택이었다. 당시 독일군은 '에니그마'라는 암호 기계를 사용해서 암호화한 메시지들을 전송했는데, 이 기계가 만들어내는 경우의 수가 너무 많아서 인간의 힘으로는 해독할 수 없을 것이라고 자신하고 있었다.

튜링이 속한 블레츨리 조직의 목표는 독일군의 에니그마 암호를 풀어내는 일이었다. 튜링은 암호 해독에 필요한 계산을 위해서 봄베(Bombe)라는 전기화학 계산기를 만들었고, 오랜 노력 끝에 독일의 암호를 해독하는 방법을 발견했다.

독일의 에니그마 기계(왼) 튜링의 봄베(Bombe) 기계.

1941년 여름이 되면 영국군은 독일 해군의 암호를 거의 실시간으로 해독할 수 있게 됐고, 이는 대서양에서의 해전에서 영국이 승기를 잡는 데 큰 역할을 했다. 어떤 전쟁사가는 튜링과 그의 팀이 기여 때문에 전쟁이 2년 일찍 끝났고, 2백만 명의 생명을 구했다고 평가했다.

전쟁이 끝날 무렵부터 튜링은 자신이 개념적으로 고안했던 프로그램 내장형 컴퓨터의 구체적인 설계를 만드는 일을 맡았다. 1946년에 완성되어 제출된 이 보고서는 비록 폰노이만(John von Neumann)의 비슷한 보고서(1945)보다 조금 늦었지만, 프로그램 내장형 컴퓨터에 대한 가장 상세한 설계로 평가된다.

◇ 인공 지능을 테스트하는 튜링 테스트

맨체스터 대학 교수가 된 튜링은 교내에 거대한 컴퓨터를 만들고 운영하는 책임을 졌지만, 동시에 그의 관심과 연구는 점점 추상적인 것이 돼 갔다. 그는 컴퓨터 체스 프로그램을 개발했고, '형태 발생의 화학적 기초'라는 수리 생물학에 대한 고전적인 논문을 출판했으며, AI(인공지능)를 판별하는 '튜링 테스트'의 절차를 담고 있는 '계산 기계와 지능'이라는 논문(1950)을 출판했다. 이 논문은 “기계는 생각할 수 있는가”라는 대담한 질문으로 시작하면서, 자신이 고안한 튜링 테스트를 통과하면 기계가 생각한다고 볼 수 있다고 결론짓는다.

이제 AI계의 전설이 된 튜링 테스트는 이렇다. 컴퓨터와 인간이 안 보이는 방에 있고, 심판관(judge)의 묻는 말에 대답한다. 심판관으로 하여금 어느 쪽이 인간이고 어느 쪽이 컴퓨터인지를 판별해내는 방식이다. 대략 5분 이상 질문을 했는데, 약 절반의 확률로 어느 쪽이 인간이고 어느 쪽이 컴퓨터인가를 맞추지 못하면 컴퓨터가 지능을 가졌다고 본다.

통상적인 튜링 테스트.

그런데 튜링의 1950년 원 논문은 이보다 복잡하다. 원래 논문은 '모방 게임'(Imitation Game)이라고 불리는, 서양에서 어른들이 모여서 놀 때 종종 하던 게임에서 시작한다. 남(A), 여(B)가 커튼 뒤에 있고, 심판관이 있다. 목소리로 남녀를 알 수 있기 때문에, 질문과 대답은 쪽지로만 이루어진다. 심판관은 남녀에게 질문하는데, 여성은 솔직하게 대답해야 하고, 남성은 여자인 척 대답을 한다. 이때 심판관이 어느 쪽이 남이고, 어느 쪽이 여인지를 맞추는 것이다.

모방 게임에서는 남(A)이 녀(B)를 흉내 낼 때 심판관(C)이 누가 남자이고 누가 여자인가를 맞춰야 한다.

튜링 테스트의 첫 번째 버전은, 이 중 남(A)을 컴퓨터로 대체하는 것이다. 심판관의 질문에 대해서 여(B)는 솔직하게 대답하고, 컴퓨터(A)는 여(B)를 모방해서 대답한다. 이때 대략 5분 이상 질문과 대답을 해 보면서 어느 쪽이 사람이고 어느 쪽이 컴퓨터인가를 맞추는 것이다. 사람을 모방하는 것이 아니라, 사회적 성별(gender)이 없는 컴퓨터가 인간의 성별을 모방하는 것이다.

컴퓨터는 여성을 모방해서 여성인 척을 한다. 이때 심판관은 어느 쪽이 컴퓨터이고, 어느 쪽이 사람인가를 맞춰야 한다. 심판관이 이를 맞추지 못하면, 컴퓨터가 “생각한다”고 할 수 있다.

그런데 이게 끝이 아니다. 튜링은 여(B)를 남(A)으로 대체하고 남(A)에게 여성인척 흉내를 내게 한다. 컴퓨터는 여성을 흉내 내는 남성과 경쟁해서 여성인척 한다. 이때 심판관은 어느 쪽이 사람이고 어느 쪽이 컴퓨터인가를 맞추는 일을 해야 한다. 진짜 여성인지 여성 흉내를 내는 컴퓨터인지를 알기 위해서 어떤 질문을 해야 할까? 아마 이런 질문을 할 것이다.

심판관: 당신은 가장 최근에 머리를 어디서 했습니까?

심판관: 지난 크리스마스에 받은 선물 중에서 당신을 가장 기쁘게 한 것은 무엇입니까?

이런 질문을 잘 관찰해보면, '생각'을 묻는다기보다는 '욕망'에 대해서 묻고 있음을 알 수 있다. 왜 이렇게 복잡할까? 왜 아무 질문이나 던지고 이에 답해서 컴퓨터와 사람을 구별하는 것이 아니라, 사회적 성(gender) 역할을 흉내 내는 임무를 맡기고 이를 통해 인간과 컴퓨터를 구별하게 했을까. 튜링의 논문을 읽은 많은 이들이 성 역할 놀이를 기계의 지능을 테스트하는 기준으로 잡은 걸 기묘하게 생각하고 이를 비판했지만, 튜링은 자신의 견해를 수정하지 않았다.

여성 철학자인 주디스 제노바(Judith Genova)는 "튜링이 이 테스트를 통해서 말하고 싶어 했던 것은 인간-기계의 경계가 임의적이라는 것 외에, 남녀의 사회적 성별의 경계 역시 (심지어 생물학적 성의 경계까지도) 임의적이라는 것이었다"고 해석한다.

실제 질문을 살펴보면 사고와 욕망의 경계도 임의적이라는 것을 알 수 있다. 제노바는 튜링이 인공지능의 성능을 검사하는 테스트 하나를 만들어 낸 것이 아니라, 수 천 년 동안 서구 사회에 면면히 받아들여지던 확고한 이분법들을 비판하고 부정하는 지적인 도전을 감행했다고 보는 것이다. 이러한 문제의식은 그가 동성애자였고, 이런 자신의 성 정체성을 감추고 살면서 성 역할의 경계와 같은 문제에 대해서 오랫동안 고민했다는 사실로부터 출발했음이 분명해 보인다.

튜링은 1950년을 기준으로 해서 50년 이내로 자신의 테스트를 통과하는 기계가 만들어질 것으로 낙관했다. 생각하는 그는 20세기 말엽이 되면 인간-기계, 남성-여성의 경계가 중요하지 않은 세상이 올 것이라고 꿈꾼 것 같다. 동성애에 대한 차별이 사라지는 것은 물론, 성별의 경계를 넘나드는 세상이 오리라고 생각한 것이다. 당시가 영국 여성이 참정권을 얻은 지 22년 되던 해였고, 컴퓨터가 개발된 지 몇 년 안 된 시점이었던 것을 고려하면 튜링의 제안은 시대를 크게 뛰어넘은 것이었다. 튜링 테스트에 대해서는 공학적 관점에서 온갖 비판들이 있었을 뿐 원 제안의 혁명적인 성격을 이해했던 사람은 드물었다.

튜링은 1952년에 동성애를 했다는 죄목으로 재판정에 섰고, 그의 사생활이 다 까발려졌으며, 여성호르몬을 주입하는 치료를 받으면서 신체적 변화에 괴로워하다가 자살했다.

영국에서 동성애를 처벌하는 법령은 1967년에 폐지됐다. 2013년에 영국 정부는 동성 결혼을 합법화했고, 과거의 동성애 처벌에 대해서 사과했다. 인권운동가들은 과거에 처벌받은 사람들을 사면복권 해달라는 청원 상자를 수상에게 전달했는데, 이 상자에는 튜링의 얼굴이 인쇄돼 있었다.

2017년 1월에 통과된 이 법안은 '앨런 튜링 법안'이라고 불린다. 아직도 튜링 테스트를 통과한 '생각하는 기계'는 만들어지지 않았지만, 동성애에 대한 '사회적 생각'은 튜링 법안만큼 발전한 것이다.

홍성욱 서울대학교 생명과학부 교수

<저작권자 ⓒ '돈이 보이는 리얼타임 뉴스' 머니투데이, 무단전재 및 재배포 금지>