开源引擎 Project Maya 更新,支持本地运行 748B 参数 DeepSeek 模型
Project Maya v1.1.16 新增对 DeepSeek-V4.1-Flash-1017 的支持,利用 GPU/内存/SSD 分层技术实现本地高速推理,厂商自测 token 一致率达 92.6%。
重要性局部证据E2 未复现写法快讯
日本科技媒体 Impress Watch 于 2026 年 10 月 20 日报道,开源 AI 推理引擎 Project Maya 发布 v1.1.16 版本,正式支持在个人电脑上本地运行参数量高达 7,480 亿(748B)的大语言模型 DeepSeek-V4.1-Flash-1017。
Project Maya 旨在解决超大型模型对数据中心级硬件的依赖问题。其核心技术在于自定义量子化算法与专用引擎的结合:引擎根据对话频率将模型中的“专家”模块动态分配至不同存储层级——最频繁使用的部分驻留于 NVIDIA GeForce 系列 GPU,次频繁部分存入系统内存,其余部分则加载至 NVMe SSD。这种分层策略使得模型能在保留接近原始性能的同时,在消费级 PC 上实现高速、私有的本地推理。
据项目方自测数据,在使用默认量子化版本“Maya-S”运行 DeepSeek-V4.1-Flash-1017 时,生成下一个 Token 与原始模型输出的一致率为 92.6%。该版本还支持多 GPU 环境,并引入了 DSpark drafter 获取功能,允许用户在具备相应硬件条件的情况下进一步加速草稿处理流程。