아담 셀립스키 AWS CEO, 자체 설계 칩 기반 새로운 인스턴스 공개..."클라우드에서 머신러닝 모델 최고 속도로 구현"

​아담 셀립스키 CEO는 AWS 리인벤트 행사에서 자체 설계 칩 기반 새로운 인스턴스를 공개했다. (출처=AWS 리인벤트 캡처)

​아담 셀립스키 CEO는 AWS 리인벤트 행사에서 자체 설계 칩 기반 새로운 인스턴스를 공개했다. (출처=AWS 리인벤트 캡처)아마존웹서비스(AWS)가 머신러닝(ML) 개발에 유리한 새로운 자체 설계 칩을 공개했다. 해당 칩을 기반으로 인스턴스를 구현할 경우 ML 속도를 높이고, 에너지 소모는 줄일 수 있다고 밝혔다.

아담 셀립스키(Adam Selipsky) AWS 최고경영자(CEO)는 1일 열린 'AWS 리인벤트(AWS re:Invent)' 행사 키노트에서 "고객들은 더 발전되고 다양한 인스턴스를 요구하고 있다"며 "최근에는 전반적인 ML 비용을 낮추면서 추론 학습은 높여달라는 요구가 많이 제기됐다"고 말했다. 이어 "우리는 모든 워크로드 가성비를 높이기 위해선 실리콘 레벨에서의 변화가 필요하다고 판단했다"면서 "그래서 이번에 새로운 칩을 개발, 선보이게 됐다"고 발표했다.

AWS가 이번에 공개한 칩은 트레이니엄(Trainium) 칩과 그래비톤3(Graviton3) 프로세서다.

회사 측은 이 칩을 기반으로 한 인스턴스의 경우 '아마존 일래스틱 컴퓨트 클라우드(Amazon EC2, Amazon Elastic Compute Cloud)'에서 기존보다 고객 워크로드 성능, 비용, 에너지 효율성을 크게 높일 수 있다고 밝혔다. EC2는 아마존이 안전하고 크기 조정이 가능한 컴퓨팅 용량을 클라우드에서 제공하는 웹 서비스다. 개발자가 더 쉽게 웹 규모 클라우드 컴퓨팅 작업을 할 수 있도록 설계됐다.

셀립스키 CEO는 "트레이니엄 칩으로 구동하는 새로운 Trn1 인스턴스는 대다수 ML 모델을 EC2 상에서 최단 시간 내 학습할 수 있도록 지원한다"면서 "그래비톤3 프로세서로 구동하는 새로운 C7g 인스턴스는 기존 그래비톤2 프로세서 기반 C6g 인스턴스 대비 최대 25% 향상된 성능을 제공한다"고 설명했다.

트레이니엄 칩 기반 Trn1, 최소 비용으로 최적의 ML 학습 지원

AWS 트레이니엄 칩으로 구동되는 Trn1 인스턴스는 저비용 고효율 ML 학습을 지원한다.

AWS에 따르면 저비용 고효율 ML 모델 학습 모델은 다수 기업이 요구하는 사항 중 하나다. 기업들은 비즈니스와 고객 경험을 새로 창출할 수 있는 잠재력을 지닌 애플리케이션 지원을 위해 ML 모델을 구축해 학습·배포하고 있다.

ML은 정확도를 높이기 위해서는 더 많은 양의 데이터가 필요하고, 기업은 이 문제로 높은 비용을 감수해야 하는 압박이 있다. 자본이 뒷받침되지 않는 기업은 적용할 수 있는 ML 모델 수를 제한받기도 한다.

AWS는 엔비디아 A100 텐서 코어 그래픽처리장치(GPU)를 갖춘 EC2 P4d 인스턴스와 가우디 칩셋(Gaudi Processor)이 탑재된 하바나 랩(Habana Lab)의 EC2 DL1 인스턴스를 포함해 ML을 위한 가장 폭넓고 깊이 있는 컴퓨팅 옵션들을 제공하고 있다. 하지만 사용 가능한 가장 빠른 가속 인스턴스를 활용하더라도 프로덕션 단계 구축 이전 대규모의 ML 모델 학습 과정에서는 엄청난 비용과 시간이 소요된다.

AWS 트레이니엄(Trainium) 칩으로 구동되는 새로운 Trn1 인스턴스는 이 문제를 해결할 수 있는 플랫폼이다. 가격 대비 높은 성능을 제공하면서 대다수의 ML 모델을 EC2 상에서 최단 시간 내 학습할 수 있도록 지원하기 때문이다.

셀립스키 CEO는 "Trn1 인스턴트는 최고의 가격대비 성능을 제공한다"며 "대다수 ML 모델들을 EC2 상에서 최단 시간 내 학습할 수 있도록 지원한다"고 소개했다.

그래비톤3 프로세서 기반 인스턴스, 전 모델 대비 25% 성능 향상

아담 셀립스키 CEO는

아담 셀립스키 CEO는 "새로 출시한 인스턴스는 가격 대비 최고의 성능을 낼 수 있다"고 설명했다. (출처=AWS 리인벤트 캡처)AWS는 이번에 공개한 그래비톤3 프로세서로 구동되는 C7g 인스턴스는 전 모델인 그래비톤2 프로세서로 구동되는 C6g 인스턴스 대비 최대 25% 향상된 성능을 지원한다고 밝혔다.

또 이전 세대 대비 과학, ML 및 미디어 인코딩 워크로드에 대해 부동 소수점 기준 최대 2배 높은 성능, 암호화 워크로드에 대해 최대 2배 더 빠른 성능, ML 워크로드에 대해 최대 3배 더 나은 성능을 제공한다고 설명했다.

C7g 인스턴스는 최신 DDR5 메모리를 탑재한 최초 클라우드 인스턴스다. AWS 그래비톤2 기반 인스턴스 대비 50% 더 높은 메모리 대역폭을 제공함으로써 과학 연구분야에서 주로 사용되는 메모리 집약 애플리케이션의 성능을 개선한다.

에너지 효율성도 높였다. 그래비톤3 프로세서는 동급 EC2 인스턴스 대비 동일한 성능을 구현하는데 최대 60% 적은 에너지를 사용한다.

셀립스키 CEO는 "기업들의 탄소 발자국을 줄이기 위한 부분에도 AWS는 역량을 집중하고 있다"며 "그래비톤 프로세서 기반 C7g 인스턴스는 기존 대비 성능과 에너지 효율을 모두 높인 제품"이라고 말했다.

AWS는 이날 자체 설계한 AWS 니트로 SSD 기반 'Im4gn/Is4gen/I4i 인스턴스'도 함께 공개했다. 아마존 EC2에서 실행되는 입·출력(I/O) 집약적 워크로드를 대상으로 스토리지 성능을 제공하는 모델이다.

AWS 측은 "니트로 SSD는 이전 세대인 I3 인스턴스에 비해 최대 60% 더 낮은 I/O 지연 시간과 75% 더 낮은 지연 시간 변동성을 지원한다"면서 "애플리케이션 성능을 극대화할 수 있는 강점이 있다"고 전했다.

AI타임스 김동원 기자 goodtuna@aitimes.com

[관련기사]블루프리즘, AWS와 자동화 속도 높인다...대규모 지능형 자동화 위한 협업 구축

[관련기사]"성장하는 스타트업은 AWS와 함께"...와디즈·무신사, AWS와의 AI 도입 '성공적'

Copyright ⓒ '인공지능 전문미디어' AI타임스 (http://aitimes.com)