英伟达推出基于全新Hopper架构的GPU芯片
| 来源:【字号:大 中 小】
2022年3月22日,英伟达(NVIDIA)宣布推出采用全新Hopper架构的下一代加速计算平台,同时发布了首款基于Hopper的GPU,即H100。新一代Hopper架构面向高性能计算和数据中心。H100在加速人工智能和高性能计算上有六项突破:
(1)H100由800亿个晶体管组成,采用先进的TSMC 4N工艺,专为NVIDIA的加速计算需求而设计,在加速人工智能、高性能计算、内存带宽、互连和通信方面具有重大进展,包括以每秒近5tb的速度与外部连接。H100是第一款支持PCIe Gen5的GPU,也是第一款采用HBM 3的GPU,可实现3TB/s的内存带宽。20个H100 GPU可以维持相当于整个世界的互联网流量,能够给客户提供先进的推荐系统和大型语言模型,使其能对数据进行实时推理。
(2)H100加速器的Transformer引擎可将网络速度提高6倍,同时不降低精度。
(3)MIG技术允许将单个GPU划分为七个更小、完全隔离的实例,以处理不同类型的作业。Hopper架构通过在云环境中为每个GPU实例提供安全的多租户配置,将MIG的能力比上一代扩展了7倍。
(4)H100是世界上第一个具有机密计算能力的加速器,可以在使用人工智能模型和处理客户数据时保护它们。客户还可以将机密计算应用于对隐私敏感的行业(如医疗保健和金融服务)的联合学习,以及共享云基础设施。
(5)为了加速最大的AI模型,NVLink与新的外部NVLink交换机相结合,将NVLink扩展为服务器以外的扩展网络,与上一代使用NVIDIA HDR Quantum InfiniBand相比,以更高的9倍带宽连接多达256个H100 GPU。
(6)新的DPX指令加快了动态编程的速度,比CPU快40倍,比上一代GPU快7倍。动态编程被广泛应用于各种算法,包括在动态仓库环境中为自主机器人车队寻找最佳路线的Floyd-Warshall算法,以及用于DNA和蛋白质分类和折叠的序列比对的Smith-Waterman算法。
信息来源: