人类语言处理的共享计算原则

美国普林斯顿大学Ariel Goldstein研究组的最新研究揭示了人类语言处理的共享计算原则和深度语言模型（DLM）。相关论文3月7日发表于《自然—神经科学》。

9名参与者收听了一个30分钟的播客，同时使用皮层脑电图（ECoG）记录了他们的大脑反应。他们提供的经验证据表明，人脑和自回归DLM在处理相同的自然叙述时共享3个基本计算原则：二者都在词开始之前进行连续的下一个词预测；二者都将他们的发病前预测与传入的词相匹配，以计算发病后的惊喜；二者都依赖于环境嵌入来表示自然环境的语言。

总之，研究结果表明，自回归 DLM 为研究语言的神经基础提供了一个新的生物学上可行的计算框架。

研究人员表示，与传统语言模型不同，深度学习的进步催生了一种新型的预测（自回归）DLM。使用自我监督的下一个词预测任务，这些模型在给定的上下文中生成适当的语言反应。