입력 : 2022-09-13 18:16:44
- A100 GPU는 메인스트림 성능에서 리더십을, AGX 오린은 엣지 컴퓨팅 주도
엔비디아는 13일, MLPerf 업계 표준 AI 벤치마크에서 '엔비디아 H100 텐서 코어(NVIDIA H100 Tensor Core) GPU'를 발표했다.
;)
< 엔비디아가 MLPerf 업계 표준 AI 벤치마크에서 엔비디아 H100 텐서 코어 GPU를 발표했다. 이는 모든 워크로드에 대한 추론에서 세계 기록을 세웠다. >
MLPerf 벤치마크는 머신러닝(ML) 성능을 조사하는 벤치마크 중 하나다.
MLPerf 벤치마크는 컴퓨터 비전, 자연어 처리, 추천 시스템, 음성 인식 등 널리 사용되는 AI 워크로드와 시나리오를 다룬다. '엔비디아 H100 텐서 코어 GPU'는 이전 세대 GPU보다 최대 4.5배 더 높은 성능을 제공한다.
더불어 AI 기반 로보틱스를 위한 엔비디아 A100 텐서 코어 GPU와 엔비디아 젯슨 AGX 오린(Jetson AGX Orin) 모듈은 이미지 및 음성 인식, 자연어 처리 및 추천 시스템과 같은 모든 MLPerf 테스트에서 전반적인 리더십 추론 성능을 지속적으로 제공했다.
호퍼로 알려진 H100은 라운드의 모든 6개 신경망에서 가속기 당 성능 기준을 높였다. 별도의 서버와 오프라인 시나리오에서 처리량과 속도 모두에서 리더십을 보였다.
;)
< 엔비디아 H100 GPU는 데이터 센터 범주의 모든 워크로드에 대해 새로운 최고점을 설정한다. >
엔비디아 호퍼 아키텍처는 엔비디아 암페어(Ampere) 아키텍처 GPU보다 최대 4.5배 더 높은 성능을 제공한다.
부분적으로는 트랜스포머 엔진 덕분에 호퍼는 자연어 처리를 위한 인기 있는 BERT 모델에서 효과적인 것으로 나타났다. 이는 MLPerf AI 모델 중 가장 크고 성능이 필요한 모델 중 하나이다.
이러한 추론 벤치마크는 올해 말에 출시될 H100 GPU의 첫 공개 데모이다.
목록
위로