数字技术与基础设施

英伟达推出新一代人工智能超级计算机

日期:2024-04-30

|  来源:【字号:

2024318日,英伟达发布新一代人工智能(AI)超级计算机——英伟达DGX SuperPOD。这台超级计算机搭载英伟达GB200 Grace Blackwell超级芯片,可用于处理万亿参数模型,能保证超大规模生成式AI训练和推理工作负载的持续运行

全新DGX SuperPOD采用新型高效液冷机架级扩展架构,基于英伟达DGX GB200系统构建而成,在FP4精度下可提供11.5 exaflopsAI超级计算性能和240 TB的快速显存,且可通过增加机架来扩展性能。

每个DGX GB200系统搭载36个英伟达GB200超级芯片,共包含36个英伟达Grace CPU72个英伟达NVIDIA Blackwell GPU。这些超级芯片通过第五代NVIDIA NVLink连接成一台超级计算机。与英伟达H100 Tensor Core GPU相比,GB200超级芯片在大语言模型推理工作负载方面的性能提升了30倍。

此外,英伟达还发布了一款统一用于AI模型训练、微调和推理的通用AI超级计算平台——英伟达DGX B200系统。DGX B200DGX系列的第六代产品。DGX B200FP4精度下可提供高达144 petaflopsAI性能、1.4TB海量的GPU显存和64TB/s的显存带宽,从而使得该系统的万亿参数模型实时推理速度比上一代产品提升了15倍。用户可使用DGX B200系统构建DGX SuperPOD,打造能帮助大型开发团队运行多种不同作业的AI卓越中心。

信息来源:

https://nvidianews.nvidia.com/news/nvidia-blackwell-dgx-generative-ai-supercomputing?nvid=nv-int-csfg-569470

https://blogs.nvidia.cn/2024/03/18/nvidia-blackwell-dgx-generative-ai-supercomputing/


附件: