입력 : 2023-06-28 23:19:58
– MLPerf 벤치마크서 8개 분야 신기록
최근 MLPerf 인공지능(AI) 벤치마크 테스트에서 엔비디아의 H100 GPU가 최고의 AI 훈련 성능을 기록한 것으로 나타났다.
;)
< 엔비디아 H100 GPU, MLPerf 벤치마크에서 생성형 AI 표준 설정 /=엔비디아 제공. >
엔비디아가 MLPerf 벤치마크에서 엔비디아 H100 텐서 코어 GPU(NVIDIA H100 Tensore Core GPU)가 생성형 AI를 구동하는 대규모 언어 모델(LLM)에서 최고의 AI 성능을 제공한다고 밝혔다.
최신 MLPerf 트레이닝 벤치마크에서 H100 GPU는 8개의 테스트 모두에서 신기록을 세웠다. 생성형 Al를 위한 새로운 MLPerf 테스트에서도 높은 성능을 발휘했다.
스타트업 '인플렉션 AI'가 공동 개발하고 GPU 가속 워크로드 전문 클라우드 서비스 제공업체인 코어위브가 운영하는 3,584개의 H100 GPU로 구성된 상용 클러스터에서 이 시스템은 11분 이내에 대규모 GPT-3트레이닝 벤치마크를 달성했다.
인플렉션 AI는 이러한 성능을 활용해 최초의 개인용 AI인 Pi(Personal Intelligence)의 기반이 되는 고급 LLM을 구축했다. 인플렉션은 사용자가 간단하고 자연스러운 방식으로 상호 작용할 수 있는 개인용 AI를 개발하는 AI 스튜디오 역할을 하게 된다.
;)
< 엔비디아 H100은 LLM 분야 MLPerf 벤치마크에서 높은 점수를 받았다. /=엔비디아 제공. >
H100 GPU는 대규모 언어 모델, 추천자, 컴퓨터 비전, 의학 이미지 및 음성 인식을 포함한 모든 벤치마크에서 높은 성능을 선보였다. H100 GPU는 8개의 테스트를 모두 실행한 유일한 칩으로, 엔비디아 AI 플랫폼의 높은 활용성을 입증했다.
H100 GPU 서버의 전체 스택에 걸친 최적화를 통해 제출물이 수백 대에서 수천 대의 H100 GPU로 확장됐다. 이에 따라 LLM 테스트에서도 거의 선형에 가까운 성능 확장이 가능했다.
또한 코어위브는 클라우드에서 로컬 데이터센터에서 실행되는 AI 슈퍼컴퓨터와 유사한 성능을 제공했다. 이는 코어위브가 사용하는 엔비디아 퀀텀 인피니밴드 네트워킹의 저지연 네트워킹을 입증하는 결과다.
목록
위로