美能源部正建设用于实时流式大数据的超算管道
| 来源:【字号:大 中 小】
据HPCwire网站2024年10月15日消息,美国能源部SLAC国家加速器实验室正与能源部的其他国家实验室合作,利用Summit超级计算机构建一个新的数据流管道,该管道将允许研究人员将其数据发送到美国的计算中心进行实时分析,即便实验还在进行中。该项目将有助于减轻科研人员计算系统的压力,此外,该管道结合了AI和机器学习等技术,有助于优化实验,从而更快获得更准确的实验结果。
该项目为期5年,是美国能源部综合研究基础设施早期开发计划的一部分,该基础设施计划旨在扩大美国能源部计算中心与美国国家实验室系统内研究设施之间联系。该项目的终极目标是将数据直接从实验流式传输到远程计算设施,而无需将任何内容保存到磁盘。该管道可在实验仍在进行时提供分析数据的能力,辅助研究人员作出更明智的决策,例如改变温度和压力以优化研究结果。
SLAC数据分析部门负责人指出,将数据直接从设施流式传输到超级计算机将大大加快数据分析过程并缓解内部数据存储问题。
信息来源:
https://www.hpcwire.com/off-the-wire/standing-up-the-nations-supercomputing-pipeline-for-streaming-big-data-in-real-time/