复杂时间神经网络:用于长距离推理的几何时间访问机制 Gerardo Iovane、Giovanni Iovane 和 Antonio De Rosa

《Algorithms》:Complex-Time Neural Networks: Geometric Temporal Access for Long-Range Reasoning Gerardo Iovane, Giovanni Iovane and Antonio De Rosa

【字体: 大 中 小 】 时间:2026年05月02日 来源:Algorithms 2.1

编辑推荐:

   摘要 大多数神经架构将时间视为一维实值变量,将时间推理限制在沿单一轴的序列传播上。我们提出了复杂时间神经网络(CTNN),这是一种新的架构类别,在这种架构中,时间坐标是复平面T = t + iτ ∈ ?的元素,其中Re(

  



摘要



大多数神经架构将时间视为一维实值变量,将时间推理限制在沿单一轴的序列传播上。我们提出了复杂时间神经网络(CTNN),这是一种新的架构类别,在这种架构中,时间坐标是复平面T = t + iτ ∈ ?的元素,其中Re(T)保持时间顺序,而Im(T)编码了一个正交的体验维度。在这种几何结构中,Im(T) < 0定义了一个用于回顾性检索的记忆域,Im(T) = 0对应于当前时刻的计算,而Im(T) > 0定义了一个用于前瞻性投影的想象域。我们证明了表达性分离定理(定理1),表明在时间耦合函数类GTCP中,并在明确假设A1–A4(特别是有界投影假设A3)的前提下,CTNN可以以O(1)的成本访问时间耦合函数,相对于时间距离Δ1、Δ2;而实时架构则需要Ω(Δ1 + Δ2)的序列步骤。对于分层组合,在假设A1–A4下,这会在GTCP中产生指数级的组合差距。这些优势在给定假设下成立,但可能不直接适用于更广泛的函数类别或无法维持假设A3的大规模环境。因此,定理1为GTCP提供了形式上的分离结果,而CTNN更广泛地定义了一个时间计算的几何框架。作为这一框架的第一个具体实现,我们开发了复杂时间卷积神经网络(CTCNN)。CTCNN在Something-Something V2任务上取得了最先进的性能(70.2 ± 0.4%,比VideoMAE v2高出1.1%,p < 0.01),在Kinetics-400任务上表现优异(78.4 ± 0.3%),并在Long Range Arena Path-X任务上取得了显著提升(87.3% vs. 79.6%,+7.7%),同时使用的参数数量比VideoMAE v2少了3.4倍。可学习的角参数α和β提供了与内存访问范围和前瞻性宽度相关的、在任务家族中系统变化的计算可解释参数。



相关新闻
生物通微信公众号
微信
新浪微博

热点排行

    今日动态 | 人才市场 | 新技术专栏 | 中国科学人 | 云展台 | BioHot | 云讲堂直播 | 会展中心 | 特价专栏 | 技术快讯 | 免费试用

    版权所有 生物通

    Copyright© eBiotrade.com, All Rights Reserved

    联系信箱:

    粤ICP备09063491号