技术与基础设施

英伟达推出基于全新Hopper架构的GPU芯片

日期:2022-04-29

|  来源:【字号:

2022322日,英伟达(NVIDIA)宣布推出采用全新Hopper架构的下一代加速计算平台,同时发布了首款基于HopperGPU,即H100新一代Hopper架构面向高性能计算和数据中心H100在加速人工智能和高性能计算上有六项突破:

1H100800亿个晶体管组成,采用先进的TSMC 4N工艺,专为NVIDIA的加速计算需求而设计,在加速人工智能、高性能计算、内存带宽、互连和通信方面具有重大进展,包括每秒近5tb速度与外部连接。H100是第一款支持PCIe Gen5GPU,也是第一款采用HBM 3GPU,可实现3TB/s的内存带宽。20H100 GPU可以维持相当于整个世界的互联网流量,能够给客户提供先进的推荐系统和大型语言模型,使其能对数据进行实时推理。

2H100加速器的Transformer引擎可将网络速度提高6倍,同时不降低精度。

3MIG技术允许将单个GPU划分为七个更小、完全隔离的实例,以处理不同类型的作业。Hopper架构通过在云环境中为每个GPU实例提供安全的多租户配置,将MIG的能力比上一代扩展了7倍。

4H100是世界上第一个具有机密计算能力的加速器,可以在使用人工智能模型和处理客户数据时保护它们。客户还可以将机密计算应用于对隐私敏感的行业(如医疗保健和金融服务)的联合学习,以及共享云基础设施。

5)为了加速最大的AI模型,NVLink与新的外部NVLink交换机相结合,将NVLink扩展为服务器以外的扩展网络,与上一代使用NVIDIA HDR Quantum InfiniBand相比,以更高的9倍带宽连接多达256H100 GPU

6)新的DPX指令加快了动态编程的速度,比CPU40倍,比上一代GPU7倍。动态编程被广泛应用于各种算法,包括在动态仓库环境中为自主机器人车队寻找最佳路线的Floyd-Warshall算法,以及用于DNA和蛋白质分类和折叠的序列比对的Smith-Waterman算法。

信息来源:

https://nvidianews.nvidia.com/news/nvidia-announces-hopper-architecture-the-next-generation-of-accelerated-computing?nvid=nv-int-cwmfg-820440#cid=hpc06_nv-int-cwmfg_en-us

附件: