카카오뱅크 ‘AI 전용 데이터센터’, 상암동 디지털 리얼티 데이터센터 입주

[디지털데일리 이상일기자] 클라우드 및 망중립 데이터 센터와 코로케이션 및 상호 연결 솔루션을 제공하는 디지털 리얼티(Digital Realty)는 카카오뱅크의 ‘AI 센터’ 개소식을 1월 30일 오전 서울 상암동 ICN10 데이터 센터에서 개최했다.

카카오뱅크는 AI를 기반으로 금융 혁신을 지원하기 위해 고성능 컴퓨팅(HPC), 고집적 워크로드에 최적화된 인프라와 연결성을 제공하는 디지털 리얼티의 ‘ICN10 상암 센터’를 ‘AI 전용 데이터센터’로 선택했다.

카카오뱅크는 서울 상암에 주 전산센터, 경기도 성남에 재난복구(DR)센터, 부산 강서구에 백업센터를 두고 있는데, AI 연구·개발 만을 위한 데이터센터를 연 것은 이번이 처음이다. ‘AI 전용 데이터센터’는 서울 상암 주 전산센터와 전용회선으로 연결된다. 이를 통해 주 전산센터의 보안 시스템을 이용할 수 있어 안전성이 뛰어나며, ‘AI 전용 데이터센터’에서 개발한 결과물을 서비스화 하는데 유리하다는 특징이 있다.

카카오뱅크는 엔비디아의 최신 그래픽 처리장치(GPU) H100을 도입했다. 기존 AI 개발에 쓰이던 A100 GPU 대비 AI 모델 개발을 위한 학습 속도가 7배 이상 빠른 것으로 알려졌다.

카카오뱅크 AI 센터는 AI 기반의 서비스 고도화, 맞춤형 콘텐츠 생산뿐만 아니라 금융과 연계한 다양한 서비스 및 신규 서비스 개발(R&D)를 지원할 예정이다.

최근 생성형 AI가 전 산업의 영역에 걸쳐 본격적으로 활용되기 시작하면서 다양한 글로벌 금융 기관들도 챗 GPT와 같은 생성형 AI 기술의 중요성을 빠르게 인지하고 막대한 비용을 투입해 대규모 언어모델(LLM)과 같은 원천 기술의 내재화와 적용에 힘쓰고 있다.

데이터 센터가 생성형 AI와 같이 최신 AI 워크로드를 지원하기 위해서는 충분한 전력 공급량과 서버 냉각 기술이 필수이다. AI 서비스는 많은 전력을 소비하는 고성능 컴퓨팅이 필요한데, 전력을 많이 소비할수록 한 공간에 수용 가능한 서버 수가 줄고 높은 발열량 때문에 서버 수명도 짧아지기 때문이다.

디지털 리얼티의 데이터 센터 솔루션은 AI 워크로드를 지원하기 위한 유연한 모듈식 서비스를 제공해 고객의 요구사항에 맞춰 고성능, 냉각, 레이아웃, 연결성을 제공한다.

디지털 리얼티는 작년 8월 랙당 최대 70킬로와트(kW)의 워크로드를 지원하기 위해 글로벌 28개 시장에서 고밀도 코로케이션 서비스를 출시했다. 디지털 리얼티의 ICN10 데이터 센터는 혁신적인 공기 보조 액체 냉각 (AALC)기술로 업계 최고 성능의 GPU 서버를 수용할 수 있다는 공급업체 인증을 받은 바 있다.

디지털 리얼티 ICN10은 금융사가 요구하는 '미션 크리티컬' 환경을 충족시켜줄 수 있다. 금융은 무엇보다 신뢰성이 요구되는 산업으로 갑작스러운 기능의 중단은 고객과의 신뢰 관계에 치명적인 단절을 일으킬 수도 있다.

디지털 리얼티는 16년 연속 파이브 나인스(five-nines)를 달성한 노하우를 바탕으로 고가용성을 보장하는 데이터 센터 서비스를 제공하며 업타임 인스티튜드(Uptime Institute)에서 무중단 유지보수가 가능한 티어 3등급을 받아 어떤 재난/재해 상황에서도 운영이 가능하다.

향후 카카오뱅크 AI 센터가 하이브리드 클라우드 운영모델로 전환시 클라우드 온램프 연결성 확장의 용이성을 제공한다는 장점이 있다. 카카오뱅크는 자사의 프라이빗 인프라를 AWS 아태지역(서울)에 연결해 AWS에 대한 저지연 및 고성능의 안전하고 비용 효율적인 연결을 활용할 수 있다.

또한 ICN10의 서울 디지털 미디어 시티 중심부에 위치한 지리적 이점과 네트워크 중립 환경은 지연 시간을 최소화하고 국내 금융 기관의 기존 데이터 센터에 다양한 연결 옵션을 제공함으로써 경쟁 우위를 제공한다.

안현철 카카오뱅크 최고연구개발책임자는 “이번 AI센터 개소를 통해 카카오 공동체 그리고 외부 학계 및 기업과 협력을 강화할 수 있는 환경을 갖추었고, 생성형AI, 언어모델 등 복잡한 연산이 필요한 다양한 AI기반 사업과 연구에 속도를 낼 계획이며, 더 많은 고객들에게 선택받고 지속적으로 성장하기 위해 기술 역량을 고도화할 계획이다.”라고 밝혔다.

디지털 리얼티 코리아 한성민 대표는 카카오뱅크 AI센터 개소식 축사에서 “한국은 아시아 태평양 지역에서 빠르게 성장하는 AI 시장중 하나로 주목하고 있다”고 말하며, “디지털 리얼티는 글로벌 AI 기업들의 ‘요람’으로 많은 경험을 가지고 있다. 이런 경험으로 앞으로 카카오뱅크의 금융분야 AI 혁신을 지원하기 위해 지원을 아끼지 않을 것”이라고 밝혔다.

- Copyright ⓒ 디지털데일리. 무단전재 및 재배포 금지 -