技术与基础设施

麻省理工学院提出封闭式连续时间神经网络

日期:2022-12-19

|  来源:【字号:

   美国麻省理工学院的研究人员通过求解两个神经元突触相互作用背后的微分方程,解锁了一种新型快速高效的AI算法——“封闭式连续时间”神经网络。这些模型具有与液态神经网络相同的特征:灵活、因果关系、稳健性和可解释性,但速度快且可扩展。因此,这种类型的神经网络可用于任何涉及随着时间推移深入理解数据的任务。相关研究成果于1115日发布在《自然 器智能》期刊上。

该研究提出的封闭连续深度模型,具有基于常微分方程(ODE)模型的建模能力,无需任何求解器。研究人员应用线性ODE理论来分析液态时间常数动力学问题。然后,剖析所获得的封闭形式解决方案的属性,并设计新的神经网络模型,称之为封闭形式连续深度网络。因此,它们最大限度地平衡了求解器的准确性和效率。与基于ODE的同类算法相比,这种明确的时间依赖性允许封闭形式连续深度网络在训练和推理时间方面至少快一个数量级,同时不会损失准确性。

信息来源:

https://www.nature.com/articles/s42256-022-00556-7

附件: