资讯1 分钟阅读·
PrismML发布Bonsai 2:将27B模型压缩至5.9GB,自测性能保留98%
PrismML推出第二代压缩模型Bonsai 2,通过三元权重技术将Qwen3.8 27B模型体积缩小近10倍至5.9GB,可在PC和手机本地运行,厂商称其基准测试得分达原版的98%。
重要性实质性证据E2 未复现写法快讯
美国加州理工学院背景的AI初创公司PrismML于2026年10月20日发布了基于阿里巴巴开源模型Qwen3.8 27B的第二代压缩模型Bonsai 2 27B。该模型通过独特的“三元”权重压缩技术,将整体容量从原版大幅缩减至5.9GB,使其能够直接在个人电脑或高端智能手机上运行。
PrismML创始人兼首席执行官Babak Hassibi表示,与传统方法不同,PrismML的压缩方式旨在几乎不损失性能。据公司公布的内部基准测试结果,Bonsai 2 27B的内存占用量减少了9到10倍,但其综合基准测试分数达到了原版Qwen3.8 27B的98%,高于半年前第一代Bonsai模型95%的成绩。
在技术实现上,团队将原本需要16位元存储的每个“权重”简化为+1、-1和0三种对应值,从而显著减少存储空间需求。Hassibi承认,经过压缩的模型在性能上必然会受到某种程度的影响,未来是否能达到100%的性能保留仍有待观察。此外,基准测试无法完全反映实际任务中的表现,因为最终准确度还受到软件环境和框架等因素的影响。
PrismML计划在未来几个月内将这一压缩技术应用到千亿级参数规模的模型上。对于消费者和中小企业而言,高性能的小容量模型意味着可以免费、零开销地随时随地使用AI功能,同时因无需将数据传输至云端而更好地保障隐私安全。