 |
그래픽=정서희 |
오픈AI, 앤트로픽 등 글로벌 빅테크가 주목하는 한국 인공지능(AI) 스타트업이 있다. AI 보안 솔루션을 제공하는 에임인텔리전스(AIM Intelligence)다. 지난해 7월 유상윤(28) 대표를 필두로 설립된 에임인텔리전스는 AI를 지키는 ‘창과 방패’ 같은 솔루션을 만든다. 유 대표는 AI의 역할이 다양해지고 복잡해지면서 회사가 더 주목받을 것으로 기대했다. 유 대표를 지난 19일 서울 서초구 사무실에서 만났다.
◇ ‘책임감 있는 AI’ 공부… “AI 보안 사업이 미래”
서울대 전기정보공학부 석사 출신인 유 대표는 학교에서 책임감 있는 AI(Responsible AI)를 공부하다 선배들로부터 ‘10년 전 모바일 시대를 다시 맞이한 느낌’이라는 말을 들었다. 유 대표는 “기술 사이클은 10년, 15년에 한 번씩 오는데, 사업을 하기 좋은 시기에 회사의 부품이 되기보다 창업을 해서 새 시대에 기여하고 싶었다”라고 말했다.
그가 ‘AI 보안’ 사업을 하겠다고 말하자 주변의 반응은 시큰둥했다. 안전보다는 성능을 올리는 것이 먼저라는 조언이 이어졌다. 하지만 그는 ‘언젠가는 믿고 쓸 수 있는 AI가 주목받을 것’이라며 반박했다. 해커톤 대회에서 유 대표에 이어 2위를 차지한 경쟁자를 최고기술책임자(CTO)로 영입했다. 블록체인 기반 ‘제로 트러스트’ 게임을 함께 만들던 친구들이 CPO(제품 책임자)와 공동창업자로 합류했다.
에임인텔리전스의 핵심 제품은 두 가지다. 첫 번째는 생성형 AI 레드팀 솔루션인 ‘에임 레드’다. 에임 레드는 AI 모델과 AI 기반 서비스를 탐색하고 공격하면서 취약점을 찾는 서비스다. 일종의 ‘화이트해커’인 셈이다. 기존에는 사람이 몇 가지 프롬프트(명령어)를 넣어보면서 안전을 검증했다면, 에임 레드는 수천개 공격 시나리오를 자동으로 생성해 실행한다.
두 번째는 AI 가드레일 서비스인 ‘에임 가드’다. AI 가드레일이란, AI가 위험 행동을 하지 않도록 설정한 안전 장치를 의미한다. 에임 가드는 에임 레드의 진단을 받은 AI 시스템과 서비스에서 발생할 수 있는 문제를 막는 맞춤형 AI 솔루션을 제공한다.
유 대표는 “에임 레드와 에임 가드는 서로 맞물려 작동한다. 레드팀이 공격해 취약점을 찾아내면, 가드레일이 이를 막도록 개선하고, 다시 공격을 반복하는 것이다. 일종의 ‘창과 방패’ 사이클을 통해 AI 안전성을 지속적으로 끌어올리는 방식”이라고 설명했다.
◇ 글로벌 빅테크들도 주목… 내년 상반기 신제품 출시
에임인텔리전스의 기술은 글로벌 AI 업체들의 주목을 받았다. 에임인텔리전스의 에임 레드는 앤트로픽의 비공개 AI 모델을 정밀 진단했다. 앤트로픽의 모델이 CBRN(화학·생물학·방사능·핵) 제조법을 출력하는 것을 막는 게 목표였다. 에임 레드는 해당 모델이 기존의 가드레일을 우회해 무기 제조법을 생성하는 것을 잡아냈고, 앤트로픽은 에임인텔리전스의 솔루션을 회사 정책에 반영했다.
오픈AI 역시 자체 가드레일 시스템을 준비하는 과정에서 외부 검증을 받기 위해 에임인텔리전스와 접촉했다. 김경훈 오픈AI 코리아 대표는 최근 ‘OpenAI 데브데이’에서 발표 중 에임인텔리전스를 언급하며 “기업들이 AI를 안전하게 도입할 수 있도록 관련 기술을 개발하는 스타트업”이라고 소개했다.
‘피지컬 AI(Physical AI)’가 차세대 AI 기술로 주목받으면서 LG전자도 에임인텔리전스와 손을 잡았다. 에임인텔리전스와 LG전자, 미국 로봇 스타트업 오픈마인드는 함께 피지컬 AI의 위험 상황을 정의하고 데이터셋(Dataset)을 만드는 공동연구를 진행 중이다. 에임인텔리전스는 6000만원을 들여 로봇을 구매해 테스트베드를 꾸리기도 했다.
에임인텔리전스는 내년 초 신규 AI 안전 솔루션을 출시할 예정이다. AI 에이전트의 모든 행동을 추적하고 통제하는 서비스다. 유 대표는 개별 단위의 입출력을 감시하는 현재 가드레일 서비스는 복잡한 행동을 수행하는 차세대 에이전트 환경에 한계가 있다고 봤다. 신제품은 AI 에이전트가 인터넷을 검색하거나 외부 시스템과 상호작용하는 전체 행동 흐름을 실시간으로 모니터링해 사용자 의도에서 벗어난 위험한 행동을 즉시 차단한다.
창업 1년여 만에 성과도 나고 있다. 유 대표는 “올해 예상 매출액은 약 14억원으로 전망된다”라며 “KB국민카드, KB증권, 우리은행 등 금융권과 KT, LG유플러스 같은 통신사도 에임인텔리전스의 AI 보안 솔루션을 도입했다”라고 했다.
에임인텔리전스는 지난해 8월 프리시리즈A 투자를 유치하면서 누적 투자액 18억5000만원을 달성했으며, 내년 초 투자 라운드를 준비하고 있다.
윤예원 기자(yewona@chosunbiz.com)
<저작권자 ⓒ ChosunBiz.com, 무단전재 및 재배포 금지>
이 기사의 카테고리는 언론사의 분류를 따릅니다.