阅读研究雷达投资体系AI公司权威资料
登录 / 注册
← 返回阅读
资讯实质变化1 分钟阅读DisconfirmAI 编辑部

法国AI公司Mistral发布开源大模型Mistral Large 4:提供完整权重、架构细节与基准测试

Mistral Large 4正式在Hugging Face上线,公开了1T参数MoE架构细节及网络安全基准表现,支持本地部署。

2026-10-29 08:00

法国人工智能公司Mistral于2026年10月29日在Hugging Face平台正式发布了其最新多模态大语言模型Mistral Large 4(代号“Le Chonk”)。该模型拥有约1万亿总参数和490亿激活参数,采用混合专家(MoE)架构,并支持文本和图像输入。此次发布标志着该模型从预览阶段转入完全开放权重状态,开发者可直接获取FP8和NVFP4格式的官方检查点。

在技术架构上,Mistral Large 4结合了稀疏注意力机制与Pixtral视觉编码器。其文本解码器包含72层,使用多头潜在注意力(MLA)和DeepSeek稀疏注意力(DSA)索引器,后者能为每个查询选择最多2,048个关键位置。这种设计旨在通过两种形式的稀疏性——选择前馈网络专家和选择上下文位置——来平衡计算效率与性能。此外,模型采用了YaRN缩放的RoPE(LeRope)以优化长上下文处理。

Mistral特别强调了该模型在网络安全领域的防御能力。根据独立评估机构Artificial Analysis的Cyber Index测试,Mistral Large 4在复现并修补开源软件漏洞的任务中得分82%,位居全球前五。Mistral指出,许多闭源前沿模型因安全过滤拒绝执行此类任务,而开源权重允许用户自行控制部署策略,这对于需要复现漏洞以进行修复的安全团队至关重要。同时,模型在编码代理和多模态理解基准上也表现出竞争力,如在DeepSWE v1.1上达到61.7%。

该模型遵循Mistral生态系统开放权重许可证(MIT衍生协议),对模型即服务(MaaS)产品设有限制。目前,Transformers、vLLM和llama.cpp已提供首日支持,社区也提供了GGUF量化版本以便本地运行。这一发布为寻求避免供应商锁定、需要在私有环境中部署高性能代码与安全分析模型的工业企业提供了新的可验证选项。

来源

  • huggingface.co↗
带入研究 →
登录 / 注册
阅读研究雷达投资体系AI公司权威资料