[일문일답] 삼성SDS “MS·시스코보다 강력한 언어 인식률 강점”

[디지털데일리 권하영기자] 삼성SDS가 자체 개발한 생성형 인공지능(AI) 서비스인 ‘브리티 코파일럿’과 ‘패브릭스’를 필두로, 최근 하이퍼오토메이션(Hyper-automation)으로 진화하고 있는 기업용 업무 자동화 시장 공략을 강화한다.

여기에는 델·엔비디아와 협력해 AI 시대 고성능 연산을 위한 서버와 그래픽처리장치(GPU) 등 필수 자원을 확보하고, 마이크로소프트(MS)와는 클라우드 애저(Azure) 기반으로 자사 생성형 AI 플랫폼을 제공하는 등 빅테크들과의 강결합이 바탕이 된다.

메일·메신저·회의 등 기업 업무에 생성형 AI를 적용한 ‘브리티 코파일럿’의 경우, 한국어와 영어를 자유롭게 번역하는 기능 등을 포함한 커뮤니케이션 역량을 내세워 국내외 고객을 공략한다. 다양한 거대언어모델(LLM)을 제공하는 생성형 AI 플랫폼 ‘패브릭스’는 이제 MS 클라우드 애저 위에서 제공돼 글로벌 고객을 만날 예정이다.

삼성SDS는 3일 서울 코엑스에서 ‘삼성SDS 리얼 서밋 2024’를 개최하고 이같은 구상을 밝혔으며, 이어 기자간담회를 통해 회사의 생성형 AI 및 글로벌 협업 전략을 소개했다. 다음은 삼성SDS의 구형준 클라우드서비스사업부장(부사장), 송해구 솔루션사업부장(부사장)과의 간담회 일문일답.

Q. 주요 글로벌 기업들과의 협력 방안을 자세히 듣고 싶다. 델과 엔비디아의 서버와 GPU를 삼성SDS 데이터센터에 적용해 개발한다는 의미로 이해하면 되나.

A. (구형준 부사장) 다양한 파트너사들과의 협력 중 대표적인 게 엔비디아와 델이다. 엔비디아 GPU가 A100, H100 등 계속 새로 나오고 있는데, 그때마다 애플리케이션이나 플랫폼도 많이 바꿔줘야 한다. A100 위에서 돌던 게 H100에서 잘 돌아가게 하려면 엔비디아·델과 협력해 성능을 어느 정도 올려줘야 ROI(투자대비수익)가 나오기 때문에, 작년에 우리가 A100을 구매하고 나서도 그런 작업을 많이 했다. 이를 바탕으로 프로페셔널 서비스를 만들어 엔비디아와 함께 다양한 파트너사 및 고객들에게 교육도 제공하고 있다. 그런 측면에서 파트너십을 가져가고 있다고 보면 된다.

Q. 삼성SDS 생성형 AI 서비스의 킬러 콘텐츠가 언어 기능인 것 같다. 추가적으로 준비하고 있는 게 있는지 궁금하다.

A. (송해구 부사장) 삼성SDS의 미팅 솔루션이 가장 잘하는 것 중 하나가 한국어에 대한 트랜스크립션(Transcription)인데, 인식률이 글로벌 수준에서 10% 정도 높다. 한국 고객들이 외국인과 대화할 때 한국어로 답변해도 정확하게 영어로 번역해 언어의 장벽 없이 회의를 할 수 있다. 이렇게 회의 하나를 개설하면 동시에 두가지 언어로 트랜스크립션을 제공하는 서비스는 우리가 유일하다. 아직 줌도, 시스코, MS 팀즈도 못하고 있다. 이를 가장 강력한 무기로 해서 현재 많은 고객사에 어필하고 있고 실제 테스트하는 곳들도 있다. 앞으로 이 부분을 더 발전시켜 여러 언어에 대해 자동 동시 통역을 제공하는 수준으로 내년 중에 출시할 예정이다. 현재 AWS 위에서 제공되는 브리티 코파일럿의 기본 LLM 모델은 GPT인데, 똑같은 GPT를 사용함에도 우리가 MS보다 한국어를 잘 지원한다고 말할 수 있다. LLM에 질문을 던지는 시스템 프롬프트에 대해 우리는 한국어와 영어를 동시에 갖고 있기 때문이다. 글로벌 솔루션사들은 영어 프롬프트밖에 없기 때문에 번역 과정을 거쳐야 한다.

Q. 브리티웍스 등 삼성SDS의 전통적 솔루션에 대한 대외사업도 강화돼야 할 것 같은데. 대외 비즈니스를 어느 정도로 확대할 계획인지.

A. (송해구 부사장) 그동안 브리티웍스는 대외용으로 판매하고 있었지만 아주 광폭 행보를 하진 않았다. 대부분 기업이 그룹웨어를 이미 가지고 있었고, 사내 결제 시스템 등과의 연계 때문에 온프레미스 솔루션을 상당히 많이 사용했다. 이제 코파일럿 AI가 등장하면서 이 시장도 변화가 생긴다고 보고 있다. 기존 온프레미스 솔루션을 쓰던 고객들도 이제 생성형 AI 기반 자동화 서비스 수요가 늘고 있다. 그래서 우리는 퍼블릭 솔루션 쓰는 기업들을 대상으로 광폭 영업을 하고 있고, 만약 데이터가 외부로 나가는 게 싫은 고객에는 프라이빗 클라우드 오퍼링도 제공하고 있으며 실제 몇몇 대기업과 상의 중에 있다. 이러한 프라이빗 SaaS 서비스는 MS 코파일럿365가 제공해주지 못하는 우리만의 차별화된 서비스라고 볼 수 있다. 기존에 우리가 공공 시장에 진출을 많이 안했는데, 앞으로 공공 시장도 브리티웍스와 코파일럿을 기반으로 적극 공략할 생각이며, 이를 위한 인증 절차를 준비하고 있다.

Q. 패브릭스를 MS 애저 위에 PaaS로 올려 다음달 미국에 출시한다고 했는데, 현지기업을 타깃으로 하고 있다면 구체적인 현지화 전략은 어떻게 되나.

A. (구형준 부사장) 패브릭스는 현재 SCP에 PaaS와 SaaS를 올려놓고 한국에 있는 고객들에 제공하고 있는데, 퍼블릭 클라우드 서비스로도 제공하지만 데이터 민감도가 높은 고객들에는 프라이빗이나 데디케이티드(Dedicated) 클라우드로 고객망 내에 SCP를 올려 패브릭스를 구축해준다. 미국 같은 경우 애저와 같이 협력하게 되는데, 큰 목표는 애저에서 LUI(Language User Interface) 제공을 위해 패브릭스를 PaaS로 올려 다양한 고객들이 AI 모델을 쉽게 쓸 수 있게 하는 것이다.

Q. 패브릭스에서 제공하는 LLM들의 종류가 대략적으로 어떻게 되나?

A. (구형준 부사장) 패브릭스는 시스템과 연결도 해야 하고 고객 데이터도 가져와야 하고 이런 다양한 요소를 묶어 필요한 업무에 맞게 제공해야 하기 때문에 하나의 모델만으론 부족하다. 정확한 LLM 수를 말하긴 어려운 게, 매달 다양한 모델을 가지고 효율성과 정확도 등을 테스트를 한다. 먼저 유즈케이스에 대해 적합한 모델로 시뮬레이션을 통해 우리가 가진 모델을 패브릭스 플랫폼으로 같이 제공하는 게 목적이다. 현재 250여개 유즈케이스를 우리가 직접 사용해보고 고객 대상 PoC(개념검증)하고 있기 때문에, 앞으로도 지속적으로 많은 유즈케이스와 모델들이 나올 것이다.

Q. 애저 기반 패브릭스를 해외에 출시했을 때 글로벌 빅테크와의 경쟁에서 어떤 장점을 내세울 건지 궁금하다.

A. (구형준 부사장) 애저 기반으로 제공하겠다는 것은 고객사와 그룹사 법인 및 관계사에 더 좋은 경험을 제공하기 위함도 있고, 궁극적으로는 글로벌 시장으로 가기 위한 스텝이라고 보면 된다. 패브릭스의 경쟁력에 대해 묻는다면, 실제 MS에 계신 분들도 패브릭스를 보고 이걸 애저에 올리면 본인들이 제공하는 애저 서비스에 도움이 될 것이라 보고 있고, 그래서 우리도 애저 기반 협력을 하게 됐다.

Q. 최근 엔비디아 칩 기반 GPUaaS 서비스를 하는 업체들이 많이 생겨나고 있는데, 삼성SDS의 엔비디아 H100 기준 GPU 수급 상황은?

A. (구형준 부사장) GPU 자체를 서비스로 제공하는 곳이 있고 GPU를 활용해 PaaS와 SaaS를 제공하는 곳이 있는 건데, 우리는 다른 업체들처럼 GPU만 판다기 보다 패브릭스를 활용하는 과정에서 결국 GPU가 필요하기 때문에 제공하는 것이다. 지금까지 비즈니스 기회들을 보면 대략 6개월 정도는 예측이 되는데, 우리는 거기에 맞는 GPU를 확보하고 있다고 보면 된다. 1년 반 전만 해도 GPU 확보가 매우 어려웠지만 지금은 그 타임이 3개월 미만 정도기 때문에 충분히 할 수 있을 것 같다. GPU 숫자를 공개하긴 어렵지만 한국에서 꽤 많은 물량을 확보하고 있다고 이해해 달라.

- Copyright ⓒ 디지털데일리. 무단전재 및 재배포 금지 -