KAIST, 뇌 모방 인공신경망 학습 난제 해결 가능성 제시

무작위 신경 활동 모방해 '가중치 수송 문제' 해결

[이데일리 강민구 기자] 한국과학기술원(KAIST) 연구진이 뇌 모방 인공신경망에서 무작위 정보를 사전 학습시켜 실제 데이터를 접했을 때 훨씬 빠르고 정확한 학습을 가능하게 해주는 기술을 개발했다. 이를 통해 뇌 기반 인공지능(AI)과 뉴로모픽 컴퓨팅 기술을 발전시킬 가능성을 제시했다.

KAIST는 백세범 뇌인지과학과 교수 연구팀이 뇌 모방 인공신경망 학습의 오래된 난제였던 ‘가중치 수송 문제’를 해결하고, 이를 통해 생물학적 뇌 신경망에서 자원 효율적 학습이 가능한 원리를 설명했다고 23일 밝혔다.

KAIST 연구진의 증명사진.(왼쪽부터)백세범 교수, 이상완 교수, 천정환 석사과정.(사진=KAIST)

AI 발전은 올해 노벨 물리학상을 받은 제프리 힌튼이 제시한 ‘오류 역전파’ 학습에 기반한다. 그러나 오류 역전파 학습은 뇌에서는 가능하지 않다고 생각돼 왔다. 학습을 위한 오류 신호를 계산하기 위해 개별 뉴런들이 다음 계층의 모든 연결 정보를 알고 있어야 하는 비현실적인 가정이 필요하기 때문이다.

DNA 구조 발견으로 노벨 생리의학상을 받은 프랜시스 크릭은 힌튼이 오류 역전파 학습을 제안한뒤 ‘가중치 수송 문제’라고 불리는 이 난제를 제기했다. 이 난제는 뇌를 모방한 인공지능 개발에 가장 큰 장애물이 되는 난제로 자연신경망과 인공신경망 작동 원리가 근본적으로 다를 수밖에 없는 이유가 됐다.

지난 2016년 영국 옥스퍼드대와 딥마인드 공동 연구진이 이러한 문제를 해결하기 위해 가중치 수송을 사용하지 않고도 오류 역전파 학습이 가능하다는 개념을 제시해 학계의 주목을 받았다. 하지만 가중치 수송을 사용하지 않는 생물학적으로 타당한 오류 역전파 학습의 효율성이 떨어졌다.

KAIST 연구팀은 이에 생물학적 뇌가 외부적인 감각 경험을 하기 이전부터 내부의 자발적인 무작위 신경 활동을 통해 이미 학습을 시작한다는 점에 주목했다. 이를 모방해 연구팀은 가중치 수송이 없는 생물학적으로 타당한 신경망에 의미 없는 무작위 정보를 사전에 학습시켰다.

인공신경망을 통해 뇌의 작동 원리를 이해하는 연구를 묘사하는 일러스트레이션.(자료=KAIST)

그 결과, 오류 역전파 학습을 위해 필수 조건인 신경망의 순방향과 역방향 신경세포 연결 구조의 대칭성이 만들어질 수 있음을 확인했다.

연구팀은 실제 데이터 학습에 앞서 무작위 정보를 학습하는 것이 ‘배우는 방법을 배우는’ 메타 학습의 성질을 가진다는 것을 밝혔다. 무작위 정보를 사전 학습한 신경망은 실제 데이터를 접했을 때 훨씬 빠르고 정확한 학습을 수행하며, 가중치 수송 없이 높은 학습 효율성을 얻을 수 있음을 확인했다.

백세범 교수는 “발달 신경과학으로부터의 단서를 통해 인공신경망 학습의 중요한 문제를 해결하고, 인공신경망 모델을 통해 뇌의 학습 원리에 대한 통찰을 제공했다”고 말했다.

연구 결과는 오는 12월 10일부터 15일까지 캐나다 벤쿠버에서 열리는 국제 인공지능 학회인 ‘제38회 신경정보처리학회(NeurIPS)’에서 발표될 예정이다.