阅读研究雷达投资体系AI公司权威资料
登录 / 注册
← 返回阅读
资讯快讯2 分钟阅读DisconfirmAI 编辑部

商汤开源 SenseNova Loop-9B-Preview:以循环计算探索小模型性能边界

商汤发布并开源基于Looped Transformer架构的9B参数模型,宣称在多项任务中媲美27B模型,为小模型高效推理提供新路径。

2026-10-31 10:51

商汤科技于2026年10月31日正式开源日日新系列中的 SenseNova Loop-9B-Preview 模型。这是一款采用创新 Looped Transformer 架构的大语言模型,旨在通过引入循环计算来扩展模型的有效计算深度,从而在仅 9B 的参数规模下,尝试达到或超越传统 27B 参数模型的性能表现。

该模型的核心设计在于保留首尾各4层原始解码器模块,将中间层改造为参数共享的循环计算模块,并通过多轮迭代增加信息交互的深度。为了维持信号传播的稳定性并增强特征交互,商汤进一步引入了 mHC(Manifold-Constrained Hyper-Connections,流形约束超连接)机制,利用多路残差连接进行受约束的信息混合。这一架构试图解决当前大模型能力提升过度依赖参数规模扩张的问题,探索在控制参数量同时释放模型潜力的新路径。

根据商汤公布的内部评测结果,SenseNova Loop-9B-Preview 在代码生成、办公场景和智能体任务等多个方向上展现出较强性能。特别是在 WorkBuddy Bench、RaccoonPPT Bench 和 AutomationBench 等评测中,该模型声称超过了 Qwen3.5-27B。消融实验显示,引入 mHC 机制后,模型在 GPQA Diamond 和 TeamBench 上的得分分别提高了 4.42 分和 13.34 分。需要注意的是,这些结果为厂商自报数据,尚未得到第三方独立复现验证。

目前,国内外研究社区围绕 Looped Transformer 的探索多停留在学术层面,缺乏可直接面向日常使用的开源实践。SenseNova Loop-9B-Preview 的发布填补了这一空白,其权重已上传至 GitHub 和 Hugging Face。商汤表示,后续将继续探索更大规模下的 Scaling 潜力及自适应“快慢思考”机制,以进一步提升推理效率。

来源

  • leiphone.com↗
带入研究 →
登录 / 注册
阅读研究雷达投资体系AI公司权威资料