Clover-35B
4 节点1 篇4 来源
深圳扩散智能(DiffuSpace)于2026年10月28日发布并开源了首个扩散语言模型Clover-35B-A3B-Preview。该模型基于阿里Qwen3.6-35B-A3B初始化,采用混合专家架构(MoE),总参数350亿、激活参数30亿,支持128K上下文及思考模式。官方数据显示,Clover在SWE-bench Verified等六项Agent评测中得分领先同尺寸自回归模型,单张NVIDIA GB300 GPU上生成速度达680 tokens/s。【背景】扩散智能由港大孔令鹏教授团队创立,此前曾推出Dream系列模型。尽管性能强劲,但截至发稿,该模型仅支持Transformers和未合并的SGLang分支,缺乏GGUF量化版本,普通用户难以在本地消费级显卡上直接运行。争议焦点在于其Agent能力的提升究竟源于扩散解码本身还是后训练优化,且目前尚无第三方独立复测数据。
事情怎么走到这一步
核心团队启动dLLM前沿研究,提出DiffuSeq,开创扩散模型处理序列到序列文本生成的技术路径。
zhidx.com ↗港大NLP实验室推出扩散语言模型Dream 7B,证明小尺寸扩散模型可与自回归模型竞争。
diffuspace.ai ↗扩散智能首次公布融资,连续完成两轮融资,总金额数亿元人民币,创下全球dLLM最大规模融资纪录。
zhidx.com ↗扩散智能发布并开源Clover-35B-A3B-Preview,宣称在多项Agent评测中领先同规模自回归模型。
zhidx.com ↗
还没定论的部分
- Clover-35B-A3B-Preview的Agent能力提升有多少来自扩散解码机制,多少来自针对Qwen3.6基座的额外后训练?
- 何时会发布官方支持的GGUF量化版本或合并SGLang PR,以降低本地部署门槛?
- 是否有第三方机构对官方公布的SWE-bench 73.6分及680 tokens/s速度进行独立复测验证?