资讯1 分钟阅读·
Voltic区分记忆波动与噪声
新预印本提出Voltic架构,通过区分波动性与随机性优化循环记忆,在小模型推理中领先基线。
重要性局部证据E2 未复现写法快讯
Voltic架构在45M参数语言模型中,于八项推理任务平均表现及长上下文检索准确率上超越门控基线。
传统循环记忆(如Gated Delta-Rule)将不确定性视为各向同性,无法区分“关联变化速度”(波动性)与“观测噪声”(随机性)。这导致记忆更新策略过于僵化,难以适应动态环境。
作者提出Voltic,保留协方差各向异性并使噪声方差依赖输入,从而让写入操作携带累积不确定性。为保持并行训练效率,采用对角和准对角近似,复用现有分块内核。
该结果基于作者自测的受控召回任务和小型模型实验,尚未见独立复现或大规模部署验证。