[스타트업 리포트] '엔비디아 잡는다' AI 반도체로 세계 시장 뚫는 스타 개발자 오진욱 리벨리온 창업자

회사 이름보다 개발자가 더 유명한 신생기업(스타트업)이 있다. 인공지능(AI) 반도체를 만드는 리벨리온이다. 이곳은 해외에서 사명보다 '오진욱 팀'으로 유명하다. 박성현 대표와 리벨리온을 공동 창업한 최고기술책임자(CTO) 오진욱(39) 박사는 슈퍼컴퓨터를 개발하는 미국 IBM의 왓슨연구소에서 7년 동안 AI 반도체의 핵심 설계자인 리드 아키텍터로 일했다. 한마디로 반도체 분야의 스타 개발자다.

그가 개발한 AI 반도체는 AI에 필요한 대용량 데이터를 빠르게 처리하는 역할을 한다. 수십, 수백 대 컴퓨터가 하는 일을 AI 반도체 혼자서 처리해 시간과 비용을 아낄 수 있다.

국내외에서 주목을 받은 이 업체는 최근 IBM과 AI 반도체 도입을 위한 성능 평가를 시작했다. 세계적 정보기술(IT) 업체에서 국내 AI 반도체의 성능 평가를 실시하는 것은 흔치 않은 일이다. 이를 통과하면 전 세계를 상대로 클라우드 서비스를 제공하는 IBM의 여러 데이터센터에 장착된다. 서울 세종대로 한국일보사에서 AI 반도체를 개발한 오 박사를 만났다.

리벨리온을 공동 창업한 오진욱 최고기술책임자가 서울 세종대로 한국일보사에서 자체 개발한 AI 반도체 '아톰'이 설치된 'RBLN-CA2'를 들어 보이고 있다. 그의 앞에 아톰 반도체와 이를 장착한 회로 기판이 놓여 있다. 김예원 인턴기자

세계 시장에서 평가받는 국산 AI 반도체

이달 초 오 박사는 미국 뉴욕을 다녀왔다. 자체 개발한 AI 반도체 '아톰'의 성능을 IBM과 함께 평가하기 위해서다. "뉴욕의 요크타운 하이츠에 IBM의 TJ왓슨연구소가 있어요. 제가 7년 동안 일하며 반도체를 개발한 곳이죠. 여기에 아톰과 AI 반도체 운영에 필요한 소프트웨어를 설치해 성능 평가를 실시합니다. 즉 반도체와 소프트웨어 기술력을 함께 평가받아요."

IBM은 아마존, 마이크로소프트(MS), 구글처럼 전 세계를 상대로 클라우드 서비스를 한다. 여기에 아톰을 사용하기 위해 성능을 최종 평가하는 것이다. "전 세계를 상대로 하는 클라우드 서비스 업체들은 국내 업체들과 데이터센터 환경이 달라요. 국내보다 요구 조건이 훨씬 까다롭죠. 따라서 국내 AI 반도체가 세계 시장을 뚫으려면 세계적인 업체들의 평가를 통과해야 해요."

한마디로 국산 AI 반도체가 국제 무대에서 처음 평가받는 것이다. 이는 곧 세계 시장 진출을 위해 정보를 파악할 수 있는 중요한 기회이기도 하다. "미국 진출을 하려면 기술적으로 어떤 것들을 갖춰야 하는지 알 수 있는 중요한 기회죠. 미국 기업의 데이터센터에 들어가지 않으면 알 수 없는 정보들이에요. 앞으로 개발하는 다른 반도체에도 도움이 돼요."

이번 성능 평가는 IBM에서 먼저 제안했다. "그동안 각종 학술지에 논문을 싣고 국제 학술대회 등에서 발표를 하며 회사를 알린 것이 도움이 됐죠. 그만큼 기술기업들은 논문 발표와 학술대회 참가가 중요해요."

평가는 6개월에서 1년가량 걸린다. 아톰을 장착한 회로 기판 형태의 리벨리온 제품 'RBLN-CA2'를 IBM 연구소 서버에 장착해 성능과 안정성, 전력 효율 등을 측정한다. "4개로 시작해 수십, 수백 개로 늘려 가야죠."

평가를 통과하면 반도체 도입 계약을 하게 된다. "공급 규모는 미정이지만 미국 전역 및 해외에 위치한 IBM 데이터센터에 들어가면 규모가 커져요."

아마존, 구글 등 세계 최대 클라우드 서비스 업체들도 아톰 도입을 논의 중이다. "아마존, 구글과 데이터센터에 아톰 공급을 논의하고 있어요."

AI 반도체 '아톰', KT 카카오도 사용

지난 2월 선보인 아톰은 리벨리온이 개발한 두 번째 AI 반도체다. 아톰은 클라우드 데이터센터에 특화됐다. 즉 오픈AI나 구글, 아마존처럼 클라우드 환경에서 AI 서비스를 제공하는 기업들을 위해 개발했다. 클라우드 환경이란 데이터센터에 설치된 AI를 기업이나 개인이 접속해 이용하는 것을 말한다.

아톰의 대량 생산은 내년 하반기 예정이다. "삼성전자에서 회로를 가늘게 만드는 5나노미터(㎚, 10억분의 1m) 공정을 이용해 양산해요."

AI 반도체로 유명한 엔비디아의 'H100'이나 AMD의 'MI300'과 비교하면 어느 정도 성능일까. "H100과 MI300은 슈퍼컴퓨터용으로 개발된 AI 반도체입니다. 아톰은 사용처가 달라요. 아톰은 이들보다 성능이 한 단계 낮지만 전력 효율이 좋아 데이터센터에 최적화됐죠."

KT, 카카오 등 여러 국내 기업들이 데이터센터에서 아톰을 활용한다. "KT의 클라우드 데이터센터에 수백 개 단위로 사용하죠. 카카오 등 다른 국내 기업들에서도 성능 평가 중입니다. KT에서 실시한 성능 평가가 잘돼서 미국 IBM 평가에 자신이 생겼어요. 그런 점에서 KT 성능 평가가 중요한 지표가 됐죠."

이들이 개발한 첫 번째 AI 반도체는 2021년 선보인 '이온'이다. 그러나 금융기술(핀테크)용으로 개발한 이온은 수요가 많지 않았다. "이온은 검증 기간이 길어지며 진도가 나가지 않았어요. 아톰이 이온을 대신해 금융시장까지 겨냥하죠."

오진욱 리벨리온 공동 창업자가 주도해 개발한 AI 반도체 아톰과 이를 장착한 회로 기판들. 아톰은 IBM, 구글, 아마존 등 클라우드 데이터센터를 이용해 AI 서비스를 제공하는 업체들을 위해 개발됐다. 김예원 인턴기자

기술 낙수 효과 기대

아톰의 성공은 국내 다른 업체에도 도움이 된다. 기술의 낙수 효과 때문이다. "삼성전자에서 생산한 아톰을 회로 기판에 장착해 서버에 꽂을 수 있도록 제품으로 만드는 일은 국내 중소 업체 5~10개사가 나눠서 해요. 아톰이 전 세계에서 많이 팔리면 다른 중소 업체들까지 덩달아 잘돼 반도체 생태계를 키울 수 있어요."

이를 오 박사는 여럿이 하나로 움직인다는 뜻의 '원 팀'으로 표현했다. 반도체 산업에서 원 팀은 국가 경쟁력을 높이기 위해 필요하다. 대만이 반도체 위탁 생산에서 세계적으로 앞선 이유는 원 팀으로 움직이기 때문이다. "대만은 세계 1위 반도체 위탁 생산 업체 TSMC를 중심으로 회로 기판 업체 등 여러 중소 업체들이 똘똘 뭉쳐 생태계를 이루고 있어요. 반도체부터 회로 기판까지 한 번에 제품화가 가능해 전 세계에서 반도체 주문 생산 수요가 대만에 몰리죠."

그런데도 리벨리온이 삼성전자를 택한 것은 반도체 생태계를 키우려는 사명감 때문이다. "정부에서도 엔비디아, 인텔 등 세계적 반도체 업체들과 경쟁하기를 원하죠. 그러려면 반도체 생태계가 함께 뭉쳐야 해요. 그것이 삼성전자에서 반도체를 생산하고 국내 중소 업체들과 제품을 만드는이유죠."

삼성전자와 엔비디아 잡는 슈퍼AI 반도체 개발

아톰의 후속 제품은 이미 개발 중이다. 내년 4분기에 나올 예정인 '리벨'은 슈퍼컴퓨터에서 사용하는 거대언어모델(LLM)용 AI 반도체다. 오픈AI의 'GPT'나 구글의 '바드', 메타의 '라마' 같은 거대 AI를 구동한다. "리벨은 엔비디아의 슈퍼AI 반도체 H100을 뛰어넘는 것이 목표죠. 엔비디아가 H100 후속으로 개발하는 'H200'과 대등한 성능을 낼 수 있도록 개발하고 있어요."

이를 위해 리벨리온은 삼성전자와 리벨을 공동 개발한다. 삼성전자가 스타트업과 손잡고 반도체를 개발하는 것은 처음이다. "삼성전자가 반도체 설계에 참여하고 생산까지 맡아요. 고성능 AI 반도체 개발에 필수인 고대역메모리반도체 기술 'HBM3E' 등 삼성전자의 기술과 자원을 활용하죠. 대만 TSMC가 제공하기 힘든 장점입니다. 개발이 완료되면 삼성전자의 4nm 공정을 이용해 생산해요."

엔비디아와 경쟁하려면 가격이 관건이다. "가격 경쟁력을 갖추려면 대량 생산해야 하는데 수요가 보장되지 않은 상태에서 대량 생산이 힘들어요. 다만 고성능 반도체는 이윤이 높아요. 제조 비용, 즉 원가가 가격의 10~20% 수준이죠. 따라서 이득을 덜 보고 조금만 가격을 조정하면 엔비디아와 충분히 경쟁할 수 있어요."

리벨리온을 공동 창업한 오진욱 최고기술책임자는 반도체 업계의 스타 개발자다. 그는 창업 전 IBM의 왓슨연구소에서 7년간 AI 반도체의 핵심 설계자로 일했다. 덕분에 리벨리온은 사명보다 '오진욱 팀'으로 해외에 알려져 있다. 김예원 인턴기자

"성공 전까지 배부를 수 없어" 연봉 8000만 원 고수

오 박사는 서울대 전기정보공학부를 나와 카이스트에서 전자공학으로 석, 박사 학위를 받았다. 이후 IBM과 MS 연구소에서 근무한 뒤 2020년 리벨리온을 공동 창업했다. 오 박사와 박 대표 등 5명의 공동 창업자는 처음부터 지금까지 8,000만 원대 연봉을 받고 있다. 전 직장은 물론이고 일부 직원들보다도 연봉이 적다. "제대로 성공하기까지 창업자들이 배부른 것을 원하지 않아요."

지금까지 이 업체는 KT인베스트먼트, KDB산업은행, 미래에셋벤처투자, 카카오벤처스, 서울대기술지주, 싱가포르 국부펀드 테마섹 파빌리온캐피털 등에서 약 2,800억 원의 투자를 받았다. 투자금의 상당 부분이 개발자 확보에 들어갔다. 현재 이 업체의 직원은 약 100명이며 대부분이 개발자다. "반도체 설계보다 소프트웨어 개발자가 더 많아요. 이용자들이 반도체를 편하게 사용하려면 소프트웨어가 더 중요해요. 그래서 소프트웨어 개발자가 항상 부족해요. 이 문제를 해결하기 위해 미국 실리콘밸리에 사무실을 두고 해외 개발자를 뽑고 있어요. 그러려면 회사를 더 많이 알려야죠."

관련해서 오 박사는 내년 2월 미국 샌프란시스코에서 열리는 최고 권위의 반도체 학술행사 '국제고체회로학회(ISSCC)'에 참석해 아톰과 리벨리온의 기술력을 알리는 논문을 발표한다. "ISSCC는 반도체 분야에서 세계 최고 권위와 규모를 인정받아요. 여기서 국내 스타트업이 발표하는 것은 처음이죠."

앞으로 그는 AI 반도체 분야에서 미국, 대만과 격차를 빠르게 좁히는 데 일조할 계획이다. "아직 한국은 AI 반도체 분야에서 후발 주자입니다. 미국은 개발력, 대만은 생산력에서 앞서죠. 하지만 우리는 정부와 기업이 목표를 세워 함께 추진하는 능력이 뛰어나요. AI 분야에서도 미국, 대만과 격차를 빠르게 줄일 겁니다."

최연진 IT전문기자 wolfpack@hankookilbo.com