统一语言结构于神经群体编码之中

《Neuron》:Unifying the structures of language in a neural population code

【字体: 大 中 小 】 时间:2026年08月16日 来源:Neuron 16.9

编辑推荐:

  大型语言模型(LLM)以以往任何计算系统都未达到的方式掌握了人类语言。基于规则的象征符号系统虽能处理受限且定义明确的问题,却无法容纳自然语言的语境敏感表达性。LLM转而采用统计学习,将语言结构的多样性编码进一个统一的高维嵌入空间。引人注目的是,这种由语境驱动的

  
大型语言模型(LLM)以以往任何计算系统都未达到的方式掌握了人类语言。基于规则的象征符号系统虽能处理受限且定义明确的问题,却无法容纳自然语言的语境敏感表达性。LLM转而采用统计学习,将语言结构的多样性编码进一个统一的高维嵌入空间。引人注目的是,这种由语境驱动的分布式表征与神经群体编码(neural population code)高度相似,提示人类语言系统可能收敛于一种相近的计算策略。借鉴人工智能与认知神经科学交叉领域日益增多的研究,研究人员表明LLM可作为支撑人脑语言加工的神经计算在认知上可信的模型。研究人员得出结论:解释语言如何自生物与人工系统中的神经群体编码涌现,无法通过对代数-象征(algebraic-symbolic)理论的渐进式精炼实现,而必将呼唤新的理论范式。
研究背景方面,传统语言学自Chomsky以降主张语言是由范畴化象征规则构成、独立于交际功能与语境的代数系统,并将音系、句法、语义、语用等分而治之,预设普遍语法(Universal Grammar)与未习得的特征清单。此类代数-象征范式难以解释真实语言中多维度的、受语境与交际压力塑造的模式,也无法被早期规则系统(如SHRDLU)在开放域中扩展。与此同时,功能语言学与跨语言类型学显示,主语、名词、动词等范畴常从使用中涌现,而非普适原子单位。在此张力下,LLM通过自监督统计学习在统一高维嵌入空间中同时承载语音、形态、句法、语义与语用线索,其分布式表征几何与人脑神经群体编码高度同构,为重审语言神经基础提供新模型。该研究发表于《Neuron》,旨在论证LLM可作为认知上可信的人脑语言计算模型,并指出语言涌现机制需超越代数-象征框架。
关键技术方法上,研究人员依托AI与认知神经科学交叉文献,采用LLM内部表征(embedding)与层级变换分析,将语言输入映射为神经元样单元上的分布式活动模式;利用自然语言处理中Transformer架构模型(如生成式预训练模型)的自监督训练轨迹,提取语音特征、语素屈折、语法构式及语义关系在表征空间中的几何方向;结合人脑神经影像与神经群体编码比较框架,评估LLM隐状态与生物语言网络在语境敏感加工上的拟合度。无独立实验队列,结论来自对已有模型行为与神经证据的理论统合。
研究结果部分,引言(Introduction)指出传统模块观与普遍未学特征观在生态化语言使用中失效,并以“give a book to her/her a book”等例说明音系长度、语义有生性、话语话题性多重约束并行;研究人员据此提出统一嵌入空间假设。Figure 1相关论述展示(A)分治式语言形式体系与(B)神经群体编码在连接主义网络与人脑中的统一计算“语言”:任一单元可对多层级语言特征表现梯度式、语境敏感、异质调谐,群体间连接实现层间与递归动态变换;(C)所有语言结构编码于嵌入间几何关系,语音、语素、句法、语义对应不同方向,话语展开为互联神经群体上的并发轨迹。Box 1强调语言作为交际行为受语境与效率原则(如依赖长度最小化、词长优化)塑造。结论部分研究人员总结:LLM成功源于对统一高维嵌入空间的统计学习承诺,这使其吸收并表达自然语言几乎全部结构;解释语言自神经群体编码涌现不能靠代数-象征理论增量修正,而需新范式。讨论重申人脑与LLM在分布式、语境驱动编码上的收敛,主张以神经群体编码为“通用语”统合音系至语用各层,放弃模块化合取与普遍语法原子特征预设,将语言范畴视为使用中出现的性质。
研究结论部分翻译:解释语言如何自生物与人工系统中的神经群体编码涌现,不会通过对代数-象征理论的渐进精炼达成,而将要求崭新的理论范式。
相关新闻
生物通微信公众号
微信
新浪微博
  • 搜索
  • 国际
  • 国内
  • 人物
  • 产业
  • 热点
  • 科普

热点排行

    今日动态 | 人才市场 | 新技术专栏 | 中国科学人 | 云展台 | BioHot | 云讲堂直播 | 会展中心 | 特价专栏 | 技术快讯 | 免费试用

    版权所有 生物通

    Copyright© eBiotrade.com, All Rights Reserved

    联系信箱:

    粤ICP备09063491号