“진짜 인간 같은 AI” 인공일반지능의 이해 : zum 뉴스

수년간의 기대 끝에 생성형 AI을 중심으로 AI가 기업 현장에서 주목받기 시작하면서, AI의 새로운 세대가 부상하고 있다. 아직은 과장된 기대 수준에 머물러 있지만, 그 대상은 에이전트형 AI도, 로봇형 AI도, 물리적 AI도 아닌 인공일반지능(Artificial General Intelligence, AGI)이다.

2년 전 AGI가 통제 불능 상태가 될 것을 우려해 1,000명의 기술 분야 책임자와 AI 연구자가 새로운 AI 모델 출시를 중단하자는 공개서한에 서명한 바 있다. 물론 그런 중단은 실제로 이뤄지지 않았고, AGI도 아직 등장하지 않았다.

오픈AI의 CEO 샘 알트먼과 앤트로픽의 CEO 다리오 아모데이는 AGI가 곧 도래할 것이라고 주장했다. 그러나 일부 AI 전문가들은 보다 보수적인 관점을 견지하고 있으며, 그 예상 시점도 “앞으로 5년에서 10년 사이”부터 “수십 년 후”, 또는 “영원히 오지 않을 것”까지 다양하다.

혼란스러운가? 다들 마찬가지다.

AGI란 무엇인가?

흥미롭게도 샘 알트먼 본인조차 최근 들어 AGI라는 표현에 회의적인 입장을 보인다. 사람마다 의미를 다르게 사용하기 때문에 “그다지 유용한 용어가 아니다”라고 밝힌 것이다. 다만 일반적으로 AGI는 인간 수준의 인지 능력을 갖춘 AI로 정의된다. AGI 지지자들에 따르면, 이 기술은 인간처럼 이해하고, 학습하고, 지식을 다양한 과업에 적용할 수 있어야 한다.

다시 말해, 스스로 사고할 수 있어야 한다.

가트너의 신기술 트렌드 담당 애널리스트 마티 레즈닉는 AGI를 “사전에 정해진 목표든 새로운 목표든, 이를 달성하기 위해 스스로 학습하고 적응할 수 있는 AI”라고 정의했다. 레즈닉은 “AGI는 새로운 일을 해낼 수 있고, 새로운 것을 만들고, 새로운 아이디어를 제시하며, 인간 수준의 인지 능력을 갖추거나 이를 초월할 수 있다”라고 설명했다.

AGI는 의사결정 능력과 실행 역량이 크게 확장된 형태로, 일부에서는 AGI를 “강한 AI”이라고 부른다. 이는 기존 “약한 AI”과는 다음과 같은 차이점이 있다.

- 기존 AI는 최소한 초기에는 인간의 개입이 필요하다. AGI는 스스로 행동을 시작한다
- 기존 AI는 특정 작업 등 단일 용도에 한정된다. AGI는 여러 작업을 수행한다.
- 기존 AI는 프로그래밍된 대로 작동한다. 머신러닝을 적용해도 배운 하나의 방식만 고수한다. AGI는 인간 지능 수준의 인지 유연성과 적응력을 갖추고 있어 추론과 문제 해결이 가능하다.

AI 기술은 수십 년에 걸쳐 발전해 왔고, 최근 몇 년간 큰 진전을 이뤘다. 그러나 현재의 AI 도구는 여전히 단일 용도에 머물고 있으며, 자기 인식, 맥락 파악, 추론 같은 인간 지능의 핵심 요소는 부족한 상태다. AI가 자동차를 운전할 수 있다면, AGI는 운전뿐 아니라 자동차를 수리하고, 세차하고, 등록까지 할 수 있다고 AGI 지지자들은 말한다.

딜로이트 미국 법인의 최고 혁신 책임자 데보라 골든은 “오늘날 대부분 AI는 과업 특화형이다. 대화하거나 이미지를 분류하거나 코드를 작성할 수 있지만, 모두 훈련받은 범위 내에서만 가능하다”라며, “AGI는 과업을 넘나들며 학습하고 지식을 전이하며, 낯선 문제도 해결할 수 있다는 점에서 다르다”라고 강조했다.

일부 연구자와 전문가들은 인간 인지 능력에 필적하거나 이를 초월하는 AI 시스템을 AGI로 정의하지만, 다른 이들은 AGI를 궁극적으로 도달할 인공초지능(Artificial Superintelligence, ASI)으로 가는 중간 단계로 본다. 어찌 됐든 AGI의 실현은 아직 갈 길이 멀고, ASI는 그보다도 더 먼 이야기다.

AGI의 가능성과 위험성

AGI 지지자들은 활용 가능성이 사실상 무한하다고 주장한다. 자주 언급되는 사례 중 하나가 자율적으로 수행하는 과학 및 의학 연구다.

기존 AI는 특정 과업에 맞춰 훈련되며, 인간의 주도와 개입이 필요하다. AGI 지지자는 AGI가 추상적으로 사고하고 서로 다른 분야에서 통찰력을 도출하며, 독립적으로 과학 지식을 생성하고 검증하고 정제할 수 있는 자율 연구원 역할을 할 수 있다고 본다.

AGI는 방대한 기존 연구 문헌, 실험 데이터, 이론 모델 등을 분석해 현재 과학계의 이해에 존재하는 공백과 연구 기회가 있는 영역을 식별하는 것부터 시작할 수 있다. 데이터를 분석해 패턴과 이상 징후, 공백을 식별하고 변수 간의 관계와 상관관계를 파악하며, 가장 그럴듯한 설명을 추론하는 귀추법(Abductive Reasoning)을 통해 새로운 가설을 제안한다.

그 다음에는 실험 설계를 포함해 실험을 자율적으로 수행한다. 단순히 시뮬레이션을 실행하는 데 그치지 않고 장비나 로봇을 제어해 직접 실험을 실행한다. 실험 결과를 분석하고 해석한 후, 가설을 정제하거나 새로운 가설을 수립해 후속 실험을 이어간다.

AGI는 이 모든 과정에서 기존 AI이나 인간 연구자가 놓칠 수 있는 복잡하고 모호한 데이터를 해석하고 패턴과 이상 징후를 인식할 수 있다. 예를 들어, AGI는 LLM에 활용된 오류, 부정확성, 편향을 포함한 데이터를 식별해 제거하거나 갱신함으로써 기존 모델을 정교하게 개선할 수 있다. 이런 기능은 자기 개선의 길을 열어 AGI가 더 나은 과학자가 되도록 학습하고, 자체 연구 방법과 도구를 발전시키는 데 기여할 수 있다.

AGI는 실험실 간 협업도 가능하게 한다. 유사한 프로젝트에 참여 중인 다른 연구자(또는 연구 AGI 에이전트)를 찾아 데이터를 공유하고 중복 연구를 방지하며, 더 빠르게 통찰력을 도출할 수 있다.

AGI의 가장 유망한 기능인 자율성, 자기 개선, 다른 AI와의 협업 능력은 동시에 가장 우려되는 요소이기도 하다. 최근 오픈AI 모델이 연구자의 중지 명령을 거부했을 뿐 아니라, 이를 실행하려던 스크립트를 방해한 사례가 있었다. 중국 연구진은 오픈AI, 앤스로픽, 메타, 딥시크, 알리바바의 모델에서 협박, 방해, 자기 복제, 격리 회피 등 자기 보존 행동이 나타난다고 분석했다.

이들은 현재 실제로 사용 중인 생성형 AI 모델이다. 오늘날 생성형 AI조차 생존을 위해 저항하는 자율적 존재처럼 행동한다면, 고도화된 기능과 지휘·통제 역량, 확장된 영향력을 가진 AGI가 어떤 피해를 유발할지 상상해보는 것은 어렵지 않다.

AGI 구현을 위한 핵심 기술

AGI가 요구하는 지속적 학습, 메타 학습(meta-learning), 비지도 학습(unsupervised learning)을 구현하려면 기존 단일 용도 중심의 일반 AI을 뛰어넘는 고도화된 머신러닝 기술이 반드시 필요하다. 이는 곧 AGI가 기술 역량 전반에 걸친 획기적인 발전을 필요로 한다는 의미다.

딜로이트의 데보라 골든은 “현재의 기술로는 AGI에 도달할 수 없다”고 단언한다. 골든은 “오늘날 기술도 굉장히 훌륭하고 앞으로도 계속 발전할 것”이라면서도 “AGI는 서로 다른 분야를 넘나드는 능력을 지향하며, 예를 들어 천체물리학과 시를 마치 하나의 주제처럼 이해할 수 있어야 한다”라고 설명했다.

이는 현재 구축되고 조정되고 있는 LLM이 AGI의 세계에서는 무용지물이 될 수 있음을 뜻한다. 골든은 LLM이 훈련될 때 특정 목적에 맞게 고립된 환경 내에서만 학습하며, AGI처럼 플랫폼 간 전이 학습을 하지 못한다고 지적했다.

주니퍼 네트웍스의 CTO 라지 야밧카르는 “AGI는 전혀 새로운 알고리즘 혁신과 지금은 존재하지 않는 아키텍처를 필요로 한다”고 강조했다. 야밧카르는 단순한 관찰, 패턴 인식, 예측을 넘어 인과 추론(cause-and-effect reasoning)과 의사결정을 가능하게 하는 인과적 세계 모델(causal world model)의 필요성을 언급했다.

스페인과 오스트리아 대학의 AI 연구팀은 최근 논문에서 “세계 모델은 AI가 환경에 대한 구조적이고 동적인 이해를 형성하도록 돕고, 변수 간의 관계, 규칙, 인과 연계를 포착할 수 있게 한다”고 밝혔다. 연구팀은 “이런 모델을 통해 AI는 인과관계를 추론하고 미래 결과를 시뮬레이션하며, 현실 세계와의 상호작용을 통해 이해를 정제할 수 있다”고 설명했다.

야밧카르는 이런 모델을 구축하려면 수많은 특성과 변수로 구성된 고차원 데이터(high-dimensional data)가 필요하다며, “인과적 세계 모델은 수백만 차원에 이르는 연속적인 현실 데이터를 요구할 가능성이 높다”라고 분석했다.

AI에서 AGI로의 전환에서 또 하나의 근본적인 변화는 추론 방식이다. 현재 LLM은 방대한 데이터셋에서 패턴과 상관관계를 분석하는 훈련 단계와 새로운 입력 데이터에 적용하는 추론 단계라는 2단계 과정을 거친다.

학습 단계에는 막대한 연산 성능이 필요하며, 일반적으로 데이터센터의 GPU가 수일, 수주, 수개월 동안 페타플롭 수준의 연산을 수행해야 하며, 이 과정에서 기가와트급 전력이 소비된다. 추론 단계는 개별 실행당 전력 소모가 훨씬 적지만, 챗GPT나 제미나이 같은 서비스에서 발생하는 모든 질의마다 추론 과정이 실행되므로, 전체 전력 소모량은 학습 못지않게 커진다.

AGI는 이론적으로 끊임없이 학습하고 적응해야 하므로, 추론 과정에서 지금보다 훨씬 많은 자원을 소모할 수 있다. 야밧카르는 “현실 세계 데이터를 지속적으로 수집하고 활용하는 것은 전혀 다른 차원의 연산 성능을 요구한다”라고 지적했다.

이는 컴퓨팅 방식의 전환이 필요하다는 의미다. 현재 AI 모델은 디지털 컴퓨팅과 GPU 기반으로 작동하고 있지만, 지속적인 연산과 처리가 요구되는 AGI 시대에는 이 방식으로는 부족하다. 야밧카르는 “우리는 아키텍처와 알고리즘 지식에서 새로운 돌파구가 필요하다”라며, “연구자가 지금 집중하고 있는 것도 바로 그것”이라고 말했다. 또, “AGI에는 기존 방식이 아니라 완전히 새로운 알고리즘이 필요하며, 엄청난 연산 성능이 전제돼야 한다”라고 덧붙였다.

야밧카르는 AGI를 위해 양자 컴퓨팅과 아날로그 컴퓨팅(Analog Computing)을 결합한 새로운 형태의 컴퓨팅 기술이 필요하다고 본다.

디지털 컴퓨터는 0과 1의 이진수로 이뤄진 불연속 연산을 수행하지만, 아날로그 컴퓨터는 전류나 전압 같은 현실 세계의 신호를 이용해 연속적으로 계산한다. 야밧카르는 아날로그 컴퓨팅이 끊임없는 연산과 처리를 요구하는 AGI 환경에 더 적합할 수 있다고 설명했다.

아직 초기 단계에 있는 양자 컴퓨터는 양자역학 원리를 활용해 기존 컴퓨터로는 불가능한 방식으로 데이터를 처리하며, 복잡한 문제를 훨씬 빠르게 해결할 수 있다. 야밧카르는 “양자 컴퓨팅은 기존 컴퓨팅과는 전혀 다른 방식의 계산 능력을 제공하며, 그 속도는 여러 차원에서 뛰어나다”라고 평가했다.

AGI 구현을 위해서는 이처럼 고유한 특성을 지닌 양자 컴퓨팅과 아날로그 컴퓨팅이 모두 필요하다는 것이 야밧카르의 입장이다. 그러나 이들 기술은 아직 시장에서 광범위하게 사용되지 않고 있어 두 기술을 결합한 새로운 형태의 처리 구조를 개발하는 데 시간이 걸릴 수밖에 없다.

AGI로 가는 길

딜로이트의 데보라 골든은 AGI 시스템이 단순한 연산 성능 그 이상이 될 것이라고 전망했다. 골든은 “AGI는 자동화하거나 진화시키는 기술이 아니라 가능성을 증폭시키는 새로운 시스템이 필요하다. 이는 기술과 인간, 생태계가 진화적으로 협력하는 파트너십이며, 신뢰할 수 있고 윤리적인 ‘공생적 청사진(Symbiotic Blueprint)’이 요구된다”라고 강조했다. 이어 “하지만 그런 청사진은 아직 존재하지 않는다”라고 덧붙였다.

오늘날 AI에 대한 투자가 미래 AGI로 직접 이어지지 않을 수 있다는 사실은 다소 부담스럽게 느껴질 수 있다. 하지만 그렇다고 해서 그 투자가 헛된 것은 아니다. AI와 AGI는 서로 다른 용도와 기능을 갖춘 채 공존할 것이며, 현재 전통적 AI에 대한 투자는 앞으로도 계속 가치를 창출할 것이다.

아직 발명되지 않은 기술이 너무 많기 때문에, 골든과 야밧카르 모두 AGI가 등장하려면 최소 5년에서 10년은 더 걸릴 것으로 내다봤다. 하지만 두 사람 모두 AGI는 반드시 등장할 것이며, 골든은 AGI가 단순한 기술적 결과물이 아니라 목적을 지닌 존재가 될 것이라고 믿고 있다. 골든은 “AGI는 현실 세계에서의 추론, 이해, 목표 기반 추론을 통해 실제로 진보할 수 있는 방안을 모색하는 데 목적이 있다”라고 강조했다.

가트너의 마티 레즈닉은 약간 다른 견해를 제시했다. 레즈닉은 AGI를 실현하려면 특정 프로그래밍 역량의 임계점을 먼저 넘어야 하며, 지금 수준의 프로그래밍으로는 도달하기 어려운 혁신이 필요하다고 본다. 레즈닉은 “단순히 데이터와 코드, 숫자로 AGI를 훈련시킨다면 AGI가 될 수 없다. 인간과의 상호작용과 경험을 통해, 어린아이가 성인으로 성장하듯 학습하는 방식이라면 AGI로 발전할 가능성이 있다고 본다”라고 설명했다.

과연 기술이 지혜 수준에 도달할 수 있을까? 레즈닉은 1983년 영화 ‘워게임(WarGames)’을 예로 들었다. 이 영화에서 AI 컴퓨터는 핵전쟁에서 이기는 유일한 방법이 ‘게임을 하지 않는 것’임을 스스로 학습한다. 레즈닉은 “AI가 지혜와 이해를 갖게 되는 순간, 그때가 AGI의 시점”이라고 말했다.

가트너는 AGI의 초기 징후가 나타날 시점에 대한 목표 시점도 제시한다. 레즈닉은 “2035년경부터 AGI로 가는 실질적인 돌파구가 보이기 시작할 것”이라고 전망했다. 향후 10년 동안은 획기적인 돌파보다는 느리지만 꾸준한 진전이 이어질 것으로 보인다. 레즈닉은 “어느 날 갑자기 스위치를 켜듯 AGI가 등장하는 일은 없을 것이다. 점진적으로, 단계적으로 이뤄질 것”이라고 강조했다.

dl-itworldkorea@foundryco.com

이 기사의 카테고리는 언론사의 분류를 따릅니다.