《自然通讯》杂志8月13日发表了美、英研究人员联合完成的一项研究成果，研究人员受大脑重放启发开发人工神经网络进行持续学习。

人工神经网络患有“灾难性遗忘症”。与人类不同的是，当这些网络接受新事物的训练时，它们会迅速忘记之前所学的内容。在大脑中，一种被认为对保护记忆很重要的机制是重新激活代表这些记忆的神经元活动模式。在人工神经网络中，这种记忆重放可以以 "生成性重放 "的方式实现，即使在类增量学习的情况下，它也能成功地——并且令人惊讶地有效地——在一些案例中防止出现灾难性的遗忘。然而，将生成式重放扩展到具有许多任务或复杂输入的复杂问题上任然是一个挑战。研究人员们提出了一种新的、受大脑启发的重放变体，其中内部或隐藏的表征被重放，这些表征是由网络自身的、上下文调制的反馈连接产生的。他们的方法是在不存储数据的情况下，在具有挑战性的持续学习基准上（例如，在CIFAR-100上的类增量学习）实现了最先进的性能，并且它为大脑中的重放提供了一个新的模型。

来源：《Nature》