瑞士联邦理工学院的Romain Fleury提出了深度物理神经网络的无反向传播训练方法。相关研究11月23日发表于《科学》。
研究人员提出了一种简化的深度神经网络架构,通过物理局部学习算法增强,可实现深度物理神经网络的监督和无监督训练,而无须深入理解非线性物理层的性质。在元音和图像分类实验中,研究人员训练了多种基于波的物理神经网络,体现了该方法的通用性。此方法在提升训练速度、增强鲁棒性的同时,还通过降低对系统建模的需求减少数字计算,进而降低功耗,展现出相较于其他硬件感知训练方案的优势。
据悉,近年来深度学习在视觉和自然语言处理领域的成功主要归因于更大的模型。然而,这种成功带来的问题是能耗和可扩展性的挑战。目前,数字深度学习模型的训练主要依赖于反向传播算法,但这种算法并不适合用物理方法实现。