글로벌 석학의 경고…"안전하고 신뢰성 있는 AI 구축 서둘러야 "

앞으로 인공지능(AI)은 단순한 텍스트 기반에서 벗어나 시각과 청각, 경험까지 묶어서 판단하고 추론할 수 있는 기술을 향해 발전할 것으로 분석됐다. 그래야 인간처럼 세상을 이해하고 상호작용할 수 있게 된다는 설명이다. 삼성전자가 주최한 포럼에 참석한 세계적인 AI 석학들의 진단이다.

삼성전자는 이달 4~5일 이틀간 딥러닝 분야 세계적 권위자 요슈아 벤지오 캐나다 몬트리올대 교수, 얀 르쾽 미국 뉴욕대 교수 겸 메타 수석 AI 과학자, 이언 호록스 영국 옥스퍼드대 교수를 비롯한 글로벌 AI 석학을 초청해 '삼성 AI 포럼 2024'를 개최했다. 온라인으로 참여한 르쾽 교수를 제외하고 모든 석학이 한국을 직접 찾아 강연에 나섰다.

세계 4대 AI 학자로 꼽히는 얀 르쾽 교수는 강연에서 "기계가 인간 지능 수준에 도달하기 위해서는 추가적인 기술 혁신이 필요하다"며 "챗GPT와 같은 대규모언어모델(LLM)은 텍스트를 인간처럼 생성하고 처리할 수 있지만, 인간처럼 물리적 세계를 이해하거나 상호작용할 수 없다"고 강조했다.

르쾽 교수에 따르면 LLM은 방대한 양의 텍스트를 기반으로 훈련돼 단어의 순서를 예측하는 데 뛰어나다. 하지만 실제 세상의 상황을 이해하거나 추론하는 데 필요한 '세계 모델(World Model)'은 개발하지 못한다. LLM이 통계적 방식으로 작동할 뿐, 직관적 물리나 인과적 추론처럼 인간과 비슷한 사고를 할 수 없기 때문이다.

르쾽 교수는 "AI가 텍스트에만 의존하는 것이 아니라 시각, 청각, 경험 데이터를 통합하는 아키텍처로 발전하는 것이 앞으로 나아갈 방향"이라며 "이러한 변화가 이뤄진다면 AI가 계획을 세우고 실시간으로 환경과 상호작용하는 식으로 더 복잡한 작업을 수행할 수 있게 될 것"이라고 말했다.

요슈아 벤지오 교수는 안전하고 신뢰성 높은 AI 시스템 구축을 역설했다. AI 성능이 다양한 분야에서 인간을 넘어섰지만, 이에 따라 발생할 수 있는 미래 위험에도 대비해야 한다는 점을 강조했다.

벤지오 교수는 포럼에서 올해 5월에 발행한 '고급 AI 안전성에 관한 중간 보고서'의 핵심 내용을 전하며 AI 발전과 위험 평가, 위험 범주, 위험 완화 방안을 소개했다. 그는 "보고서는 챗GPT-4와 클로드3 같은 최신 AI 모델의 복잡한 작업 수행 능력과 이로 인해 발생할 수 있는 위험을 평가하고 있다"며 이를 기반으로 다양한 안전 조치가 필요하다고 설명했다.

특히 AI의 안전한 발전을 위해선 국제적 협력이 필수적이며 AI의 미래는 사회와 정부의 결정에 따라 달라질 것이라고 말했다.

옥스퍼드 시멘틱 테크놀로지스 공동설립자인 이언 호록스 교수는 지식 그래프 시스템 특징을 잘 반영하는 검색, 추천 관련 주요 활용 사례를 소개하며 유연한 데이터 모델과 논리적 추론을 바탕으로 한 사용자 맞춤형 서비스 구현 방안을 제시했다. 지식 그래프는 사람이 지식을 기억·회상하는 방식과 유사하게 데이터를 저장·처리하는 방식의 기술을 말한다.

기술 세션에서는 AMD 최고기술책임자(CTO)인 조지프 마크리 부사장이 등장했다. 그는 '어디에나 존재하는 AI'를 주제로 AMD AI 솔루션을 소개했다. AI 플랫폼과 협업의 중요성, AMD의 강점 등을 피력했다.

이와 함께 최영상 삼성전자 SAIT 마스터가 강연자들과 함께 AI 기술 트렌드와 반도체 AI 방향성에 대해 토의하는 시간도 마련했다.

한종희 삼성전자 대표이사 부회장은 개회사에서 "AI는 놀라운 속도로 우리의 삶을 변화시키고 있고 더욱 강력해짐에 따라 '어떻게 AI를 더 책임감 있게 사용할 수 있을지'가 갈수록 중요해진다"면서 "삼성전자는 보다 효율적이고 지속가능한 AI 생태계를 구축하는 데 책임을 다할 것"이라고 밝혔다.

올해로 8회째를 맞는 삼성 AI 포럼은 세계적으로 저명한 AI·컴퓨터공학 석학과 전문가를 초청해 최신 연구 성과를 공유하고 향후 연구 방향을 모색하는 기술 교류의 장이다.

[박승주 기자 / 박소라 기자]

[ⓒ 매일경제 & mk.co.kr, 무단 전재, 재배포 및 AI학습 이용 금지]