입력 : 2020-07-08 11:36:06
- 이전 세대 대비 훈련·추론 컴퓨팅 성능 20배 향상...AI 원동력인 워크로드 속도 개선
엔비디아는 8일, 자사 A100 텐서(Tensor) 코어 GPU가 출시 한 달 만에 구글 컴퓨트 엔진(Google Compute Engine)에 탑재됐다고 밝혔다. 이는 엔비디아 GPU 중 가장 빠르게 클라우드에 적용된 사례다.
;)
< 구글 클라우드에 탑재된 엔비디아 A100 텐서 코어 GPU >
구글은 최근 A100이 탑재된 엑셀레이터-옵티마이즈드 VM(Accelerator-Optimized VM)(A2) 인스턴스를 새롭게 공개했다. 이로써 새로운 엔비디아 GPU를 제공하는 최초의 클라우드 서비스 제공업체가 됐다.
A100은 엔비디아 암페어(NVIDIA Ampere) 아키텍처를 기반으로 구축됐다. A100는 이전 세대보다 훈련 및 추론 컴퓨팅 성능을 20배 향상시켜 인공지능(AI)의 원동력인 워크로드 속도를 개선시킨다.
클라우드 데이터센터에서 A100은 AI 교육 및 추론, 데이터 분석, 과학 컴퓨팅, 유전학, 엣지 비디오 분석, 5G 서비스 등을 포함한 광범위한 컴퓨팅 집약적 애플리케이션을 구동한다.
빠르게 성장하고 있는 핵심 산업 기업들은 구글 컴퓨트 엔진에 탑재된 A100의 성능으로 혁신을 가속화할 수 있다. AI 확장과 과학 컴퓨팅에서 추론 애플리케이션 확장, 실시간 대화형 AI 실행에 이르기까지, A100은 클라우드에서 실행되는 복잡하고 예측 불가능한 모든 워크로드를 가속화한다.
곧 배포예정인 엔비디아 쿠다(CUDA) 11을 통해 개발자들은 텐서 코어, 혼합정밀 모드, 멀티 인스턴스 GPU, 고급 메모리 관리, 표준 C++/포트란(Fortran) 병렬언어 구조를 포함한 엔비디아 A100 GPU의 새로운 성능을 활용할 수 있다.
한편, 구글 컴퓨트 엔진은 워크로드가 적은 사용자를 위해 특정 애플리케이션 요구사항에 맞는 적은 구성의 A2 VM을 제공한다. 구글 클라우드는 구글 쿠버네티스 엔진, 클라우드 AI 플랫폼과 기타 구글 클라우드 서비스에 곧 엔비디아 A100를 추가 지원한다.
또한 대규모의 까다로운 워크로드를 위해 고객들에게 16개의 A100 GPU와 함께 a2-메가GPU-16g 인스턴스를 통해 총 GPU 메모리 640GB와 시스템 메모리 1.3TB를 제공한다. 이는 모두 최대 1초당 9.6TB의 대역폭을 갖춘 NV스위치로 연결된다.
목록
위로