图灵奖得主:HPC与AI融合如何颠覆科学计算
| 来源:【字号:大 中 小】
2022年8月,在第十届全国社会媒体处理大会(SMP 2022)上,2021年图灵奖得主杰克 唐加拉(Jack Dongarra)谈论了高性能计算(HPC)与人工智能(AI)的融合及对科学计算的颠覆。
HPC方法广泛地应用于科研仿真。AI技术则能够在不同领域辅助科学发现,提高计算体系结构的性能,以及在边缘管理和处理大量数据。在科学计算领域机器学习等技术被广泛应用到气候学、生物学、药学、流行病学、材料学、高能物理等诸多学科以提供增强的模型和更先进的仿真方法。
高性能计算和机器学习计算有着既相似又不同的特性。高性能计算是数字计算密集型的,通常输入非常有限的数据,经过非常大量的数字计算,输出大量的数据;而机器学习计算通常需要输入大量的数据,输出的却是相对比较少的数据。两者使用的数据精度也非常不同,在科学仿真等高性能计算场景下通常使用64比特浮点数据,而在机器学习场景下会使用16比特浮点数据。
科研仿真和AI计算可以非常有效的联合,因为二者都需要模型和数据。除了在具体的应用领域相互补充之外,HPC与AI在基本开发方法、软件与软件基础设施和AI硬件架构等领域都有非常多的联系。例如,AI可以用来引导仿真、更快地调整仿真应用的参数、提供定制化的计算核函数,以及将传统的HPC和神经形态计算相结合等。
当前计算机领域发生着三个重大变化:高性能计算、深度学习、边缘计算与人工智能。算法和软件会随着硬件不断进化,当前很多机器学习算法就可以和硬件一起演化,并且相互影响。在摩尔定律之后,仍然存在很大的空间可以通过算法、软件和硬件架构去提升HPC系统的终极性能。
未来,HPC系统的定制化程度将更高。更多采用不同结构和范式的处理器将会越来越多地被添加到HPC计算系统。在构建新的HPC系统时,人们将能够按需使用相应的模块与功能。例如,使用专门的硬件进行机器学习计算,可以进一步增强GPU。通过将机器学习算法加载到对应的加速器上,在加速器上执行算法的细节并将计算结果传输给对应的处理器。未来也可实现可插拔的量子加速器,使其执行对应的量子算法等等。
信息来源:
https://conference.cipsc.org.cn/smp2022/special.html
智源社区. https://mp.weixin.qq.com/s/uDAoiLepbSkQpG8LffQSPQ