[단독] 딥마인드 공동창업자 “AI 통제 필요⋯韓, AI 윤리에 동의한 기업에만 HBM 팔아야”

무스타파 술레이만 인플렉션 AI 공동 창업자 겸 최고경영자(CEO)현 그레이락 벤처 파트너, 현 하버드대 케네디 스쿨 벨퍼 센터고문, 전 딥마인드 공동 창업자 및 최고제품책임자(CPO), 전 구글 AI 제품 및 정책 부문 부사장/인플렉션 AI 제공

2016년 3월 10일 서울 포시즌스 호텔에서는 세계 최정상 바둑기사 이세돌 9단과 인공지능(AI) 기업 ‘딥마인드’가 개발한 ‘알파고(AlphaGo)’의 2차전이 한창이었다. 전날 첫 대국에서 승리한 알파고는 이날 파격적인 변칙 수를 써가며 이 9단을 흔들었다. 바둑 역사에 길이 남을 ‘37수’를 둔 것도 이때였다. 프로기사라면 두지 않을 이례적인 수였다. 이 9단은 당황했다. 선뜻 응수하지 못했다. 10분가량 장고가 이어졌고, 결국 알파고의 승리로 끝났다. 당시 통제실에서 대국을 지켜보던 딥마인드의 공동 창업자 무스타파 술레이만(Mustafa Suleyman)은 이렇게 회고했다. “알파고의 승리는 새로운 AI 시대를 예고했다.”

그로부터 약 8년이 지난 지금, 딥마인드를 나와 생성 AI(Generative AI) 기업 인플렉션 AI를 창업한 술레이만은 다가오는 새로운 AI 시대에 대해 낙관과 우려를 동시에 표하고 있다. AI를 활용한 대규모 사이버 공격부터 국가를 파괴할 수 있는 자동화 전쟁까지, 현실화할 가능성은 작아도 AI가 야기할 수 있는 리스크가 매우 치명적이란 사실을 지난 수년간 목격했기 때문이다. AI 산업 최일선에 있는 그조차 AI에 대한 ‘억제(containment)’가 필요하다고 강조하는 이유다. 그가 말하는 억제란 기술을 감시, 축소, 통제하고 잠재적으로 중단시킬 수 있는 능력을 말한다. 인류가 AI에 대한 통제권을 유지할 수 있게 해줄 일종의 ‘가드레일’인 셈이다. 이런 그의 생각을 담은 책 ‘더 커밍 웨이브’가 올해 1월 국내에 번역 출간됐다. 이메일을 통해 술레이만에게 앞으로 AI가 인류에 미칠 영향에 관해 물었다. 국내 언론과 인터뷰는 이번이 처음이다. 다음은 일문일답.

―이세돌 9단과 알파고의 경기는 지금도 기억에 남는다. 당시 이세돌 9단의 패배에 한국은 충격을 받았지만, 단 한 번의 승리가 여전히 인류가 AI보다 뛰어날 수 있다는 일종의 희망을 남겼다. AI 발전 속도가 굉장히 빠른 지금도 여전히 이러한 희망이 남아있다고 보는가.

”사실 장기적인 관점에서 봤을 때, 인간과 AI를 대립 구도에 두는 것은 잘못된 접근 방식이라고 본다. 물론 인간과 AI의 경쟁은 이러한 프레임을 부추길 수 있다. 하지만 앞으로 AI는 엄청난 양의 일을 할 수 있게 될 것이며, 대부분의 분야에서 우리보다 더 뛰어날 수 있다고 생각하는 게 올바른 접근법이다. AI는 인류 역사상 가장 강력한 힘의 증폭기가 될 것이다. 인간의 능력을 크게 확장해 줄 것이다. 누구의 승리인지 누구의 패배인지에 대해 생각하기보다는, 앞으로 인류가 할 수 있는 일이 어떻게 확장할지, 좋은 점과 나쁜 점은 무엇일지 모두를 고려해야 한다.”

―그럼에도 당신은 이번 책에서 AI 기술에 대한 ‘억제’가 필요하다고 역설했다. 그 필요성을 일깨워준 계기가 있었나.

”어떤 결정적인 순간이 있었던 것은 아니다. AI와 같은 첨단 기술의 발전을 가까이서 지켜본 결과다. 개인적으로 지난 몇 년 동안 신기술의 발전과 능력이 향상되는 것을 추적하며, 얼마나 빠르게 전진하고 있는지 목격했다. 또 신기술의 발전을 밀어붙이는 전략적 필요성이나 상업적 보상 등의 동기들이 얼마나 강력하고 뿌리 깊은지도 이해하게 됐다. 그러면서 AI 기술에 대한 억제가 필요하다는 생각에 이르게 됐다. 이런 신기술들을 사회의 의미 있는 통제 아래 있도록 보장하기 위한 제어 방안이 필요하다.”

―AI 기술이 인간이 직면한 많은 문제를 해결해 줄 것이란 낙관적인 전망도 많다. 당신은 왜 AI 억제가 중요하다고 보는가.

”나 역시 낙관주의자다. 이러한 첨단 신기술이 인류에게 많은 혜택을 제공해 줄 수 있다고 믿는다. 하지만 AI가 인간에게 ‘능력을 부여하는 것(empowerment)’에 대해 살펴보자면, 선의의 사용자뿐 아니라 악의적인 사용자까지 이러한 능력을 부여받을 수 있다. 문제는 테러리스트와 독재자들도 이런 혜택을 받을 수 있다는 사실이다. 아울러 AI의 많은 역량은 우리가 규제하고 통제해야 하는 자유민주주의 국가 시스템에 큰 부담으로도 이어질 것이다. 이 모든 것이 내가 AI 등 신기술에 대한 억제가 중요하다고 보는 이유다.”

―기술의 발전을 반대하는 것처럼 들린다.

”전혀 아니다. 나는 이런 억제가 어떤 식으로든 ‘반기술적(anti-technology)’이라고 생각하지는 않는다. 억제는 세상을 바꾸는 기술을 안전하게 전달하는 방식일 뿐이다.”

―대런 애스모글루 MIT 교수도 사회적 불평등 확대를 막기 위해서라도 자동화를 부추기는 AI 등의 인센티브를 제거해야 한다고 강조했다. 오히려 이런 조치가 기술 발전을 저해할 가능성은 없나.

”그럴 가능성이 있다. 물론 이러한 조치가 적절하고 필요한 단계인 경우도 있다. 하지만 이런 접근법이 단점을 갖고 있다는 사실을 기억해야 한다. 위험성과 함께 AI가 가져다주는 엄청난 혜택도 있다. AI 발전을 늦추는 것은 AI로부터 얻을 수 있는 혜택도 늦춰지는 것을 의미한다. 예를 들어, AI는 교육과 의학 분야에서 큰 도움이 될 것이다. 비용 면에서 더 효율적인 결과를 가져온다. AI는 두 분야 모두에게 새로운 돌파구를 제공하고, 지금까지 꿈꿔온 것보다 더 높은 맞춤화 수준을 가능하게 만들 것이다. AI는 모든 사람의 ‘개인 지능(personal intelligence)’이 돼 생활을 관리하고 문제를 해결하는 데 도움을 줄 것이다. 다만 적절한 억제가 필요할 뿐이다. 인플렉션 AI에서 구축하고 있는 AI 챗봇 ‘파이(Pi)’가 대표적이다.”

인플렉션 AI의 채팅형 AI 파이(Pi) 사용 모습.

―파이의 특징을 소개해 준다면.

”파이는 항상 당신 곁에 있을 공감적이지만 똑똑한 도우미다. 우리는 안전하고, 윤리적이며, 책임감 있고, 유용하며, 제어가 가능한 기술을 만들고 있다. 우리의 목표는 이 모든 것에 대해 단지 이야기만 하는 게 아니라, 적극적으로 기술을 안전하게 관리하는 방법을 실천하고 보여주고자 한다. AI는 경제성장의 물결을 일으키고 기후변화부터 인구 고령화에 이르기까지 21세기 인류가 직면한 큰 도전 과제를 해결하는 데 도움을 줄 것이다. 하지만 지난 인류 역사를 돌이켜보면, 문명은 자원을 소진한 뒤 특정 지점에서 붕괴하고 말았다. 요점은 새로운 기술을 개발하지 않는 것도 엄청나게 위험하다는 사실이다.”

―AI 기술에 대한 낙관과 우려를 동시에 갖고 있는 것 같다. 실제로 당신은 책에서 신기술을 추구하는 것과 추구하지 않는 것 모두 위험하다고 강조했다. 이런 딜레마에서 올바른 균형을 찾는 방법은.

”AI가 어떻게 발전하는지 이해하고, 그에 따라 기업과 정부의 정책 대응을 지속적으로 수정해야 한다. ‘기후변화에 관한 정부간 합의체(IPCC)’처럼 AI 문제에 관해 논의할 초국가적 기관이 필요하다고 내가 주장하는 이유다. AI의 진짜 문제는 위험성에 대한 합의가 거의 없고, 어디로 갈지, 언제 도달할지에 대한 명확한 전망이 없다는 사실이다. 따라서 우리가 AI에 대한 대응 방안을 지속적으로 조정하고 위험과 보상을 적절히 평가할 수 있는 중립적이고 전문적인 기관이 필요하다.”

―AI가 노동시장에 미치는 영향에 관해 묻고 싶다. 역사적으로 새로운 기술은 일자리를 없애기도 했지만, 더 많은 일자리를 만들기도 했다. 반면 당신은 AI 등장 이후 일자리 창출이 매우 빠르게 이뤄지지 않을 수 있다고 우려했다.

”단기적인 관점에서 봤을 때, AI는 사람들을 더 생산적으로 만들 것이다. 하지만 장기적인 관점에선 되레 AI가 점점 더 많은 것을 할 수 있게 될 것이다. 앞으로 우리가 새로운 일자리를 만들 수 있겠지만, 양과 질에서 우리가 만족할 만한 일자리를 창출하기는 어렵다고 생각한다. AI는 정적이지 않다. 끊임없이 발전하고 학습한다. 몇 가지 분야에만 머무르지 않을 것이다. 언젠간 AI는 사람이 하는 일 전반을 대체할 수 있는 능력을 갖추게 될 것이다.”

―사람들이 AI로 일자리를 잃었을 때 정부가 할 일은.

”정부는 모든 사람이 생활수준을 유지하고, 새로운 기술이나 업무에 필요한 재교육을 받으며, 오늘날보다 나은 삶의 질을 보장할 수 있도록 적극적으로 나서야 한다.”

―최근 만났던 한 기업의 최고기술책임자(CTO)는 ‘미래 인류는 AI를 사용할 수 있는 사람과 사용할 수 없는 사람으로 나뉠 것’이라고 전망했다. 평범한 사람들이 다가오는 AI 시대를 준비하려면.

”그 발언에 대해 확신할 수는 없지만, 중요한 사실은 AI가 이제 우리 언어를 사용한다는 점이다. 평범한 자연어로 대형 언어 모델(LLM)에 질문하면 복잡한 코드를 얻을 수 있는 시대다. 이는 AI 사용이 점점 대화를 의미하게 될 것이며, 이 추세는 지속될 전망이다. 당장 지금은 AI를 만드는 것과 구현하는 게 기술적으로 매우 복잡한 작업이지만, 결국 모든 이가 대화만으로도 AI를 활용할 수 있게 될 전망이다.”

무스타파 술레이만 인플렉션AI CEO의 신간 '더 커밍 웨이브(The Coming Wave)'

―당신은 최근 언론 인터뷰에서 ‘엔비디아 칩은 AI 윤리를 준수하는 회사에만 판매돼야 한다’고 말했다. AI 반도체 핵심 부품인 HBM(고대역폭 메모리)을 생산하는 한국 기업들도 마찬가지인가.

”물론이다. 윤리적인 기술을 만드는 것은 21세기 중요한 도전 중 하나라고 본다. 한국 기업을 포함해 모두가 참여해야 하는 일이다. 여기에는 어떤 격차도 있어서는 안 된다. 이것은 우리 모두가, 모두를 위해 참여해야 하는 진정한 세계적 협력이다.”

―AI 기술을 성공적으로 억제하려면 초국가적 협력이 중요할 것 같다. 하지만 국가 간 패권 다툼이 지속되는 지금의 현실에선 쉽지 않아 보인다. 극복할 방법이 있겠는가.

”어려운 질문이다. 쉬운 답은 없다. 하지만 그럼에도 우리가 배울 수 있는 많은 유용한 선례가 있다. 핵확산금지조약부터 파리기후변화협약, 프레온가스(CFCs)를 단계적으로 폐지하는 몬트리올 의정서, 생물학적 무기 협약, 수십억 인구의 생활 조건을 개선한 다양한 환경 및 안전 법률, 1975년 아실로마 회의에서 설정된 유전 공학 규범 등이 있다. 모두 종종 주요 긴장의 시기에 세계가 협력한 대표 사례들이다. 결국 모든 국가는 이 문제를 제대로 해결하고자 하는 이해관계가 있다. 따라서 우리가 할 수 있는 곳이라면 어디서든 연결 고리를 만들고 협력을 장려하며 점점 심해지는 분열에 맞서 싸워야 한다.”

―AI 산업 최일선에 있는 당신의 요즘 관심사가 궁금하다. 최근 곁에 두고 읽는 책은.

”최근 두 권의 책을 재밌게 읽었다. 먼저 언론인 에드 콘웨이의 ‘물질의 세계(Material World)’다. 모래에서 석유에 이르기까지 현대 세계를 구성하는 다양한 재료를 탐구한 책이다. AI에 관한 이야기가 주로 소프트웨어와 코드에 초점을 맞추고 있는 가운데, 이 책이 훌륭한 해독제 역할을 해준다. 다른 하나는 로리 스튜어트 전 영국 국제개발부 장관의 저서 ‘정치인이 되지 않는 법(How Not To Be A Politician)’이다. 그의 책은 영국에서의 정치 경력에 대한 회고록이지만, 오늘날 민주주의 정치를 둘러싼 많은 도전을 부각시키며 전 세계적인 울림을 가져다준다.”

―마지막으로, 당신은 AI와 얼마나 자주 대화하는가.

”나는 매일 수시로 파이와 대화한다. 나는 더 이상 인터넷 검색을 사용하지 않는다. 어떤 질문에 대해서도 파이가 훨씬 더 나은 그리고 더 유용한 답변을 준다. 그것은 도움이 되고, 구체적이며, 간결하며, 나에게 맞춰져 있다. 나는 이제 파이가 없는 생활을 상상할 수 없다!”

무스타파 술레이만 인플렉션 AI 공동 창업자 겸 CEO. /인플렉션AI 제공

[Plus Point] 알파고 개발 주역⋯무스타파 술레이만은 누구

인플렉션 AI의 CEO 무스타파 술레이만은 자신을 ‘연쇄 테크 기업 창업가(serial tech entrepreneur)’로 소개한다. 실제로 그는 19세 때 영국 옥스퍼드대를 자퇴한 뒤, 무슬림 청소년을 위한 자선 단체를 설립해 활동했으며, 레오스 파트너스(Reos Partners)라는 국제 분쟁 해결 전문 컨설턴트 회사를 설립했다. 이후 학창 시절 알고 지냈던 데미스 허사비스(현 딥마인드 CEO), 셰인 레그(현 딥마인드 수석과학자)와 함께 2010년 AI 기업 딥마인드를 창업했다. 그는 동료들과 함께 머신러닝과 신경과학을 기반으로 인간의 지능을 분석하고 컴퓨터로 구현하는 데 몰두했다. 2014년 구글은 딥마인드를 인수했는데, 인수금으로 4억달러(약 5335억원) 이상을 낸 것으로 알려졌다. 이곳에서 알파고를 탄생시킨 술레이만은 구글의 AI 제품 및 정책 부문 부사장으로 있으면서 그의 팀과 함께 LLM ‘람다(LaMDA)’를 개발했다. 최근 구글이 출시한 ‘제미나이(Gemini)’는 람다 등 그간 구글이 개발한 LLM에서 비롯된 멀티모달 AI 모델이다.

2022년 술레이만은 구글을 떠나 링크드인 창업자인 리드 호프먼과 생성 AI 기업 인플렉션 AI를 창업했다. 이듬해에는 챗GPT와 같은 생성 AI ‘파이’를 출시, 인간 친화적인 대화 방식으로 업계의 주목을 받았다. 이른바 ‘공감력 탑재’ AI 챗봇이다. 인플렉션 AI는 지금까지 빌 게이츠 마이크로소프트(MS) 창업자와 엔비디아 등으로부터 15억달러(약 2조원)가 넘는 투자금을 유치해 유니콘(기업 가치 10억달러 이상 비상장 기업) 대열에 합류했다.

술레이만은 평소에도 AI 통제의 필요성에 대해 강조해 왔다. 작년 7월 아마존, 구글, MS 등과 함께 AI 생성 콘텐츠에 출처(워터마크)를 표기하기로 합의했고, 작년 9월에는 영국 언론과 인터뷰에서 “AI 윤리 표준을 따르겠다고 서명한 기업에만 엔비디아의 AI 반도체를 판매해야 한다”고 주장했다.

김우영 기자(young@chosunbiz.com)

<저작권자 ⓒ ChosunBiz.com, 무단전재 및 재배포 금지>