阅读研究雷达投资体系
登录 / 注册
← 返回阅读
专题DisconfirmAI 编辑部更新于 2026-11-17 21:27

LLMON

4 节点1 篇6 来源

IBM于2026年11月12日发布LLMON(LLM Object Notation),这是一种专为大语言模型设计的原生标记语言,旨在通过架构层面的结构分离来防御间接提示注入攻击。LLMON利用保留的特殊令牌明确区分“指令”与“数据”,并引入基于唯一ID的执行绑定机制,使模型仅执行被显式标记为权威的部分,而将其他上下文视为被动读取的数据。伴随该语言发布的还有两款基于Granite 4.1基座模型的实验性预览版:granite-4.1-3b-LLMON-preview和granite-4.1-8b-LLMON-preview。

【背景】传统JSON格式是为解析器而非因果语言模型设计的,其语法结构在长上下文中易导致模型混淆或被恶意利用。LLMON采用类似XML的标记方式,但使用独立于普通文本词汇表的特殊令牌作为分隔符,从而在词元级别实现指令与数据的硬隔离。

根据IBM研究团队在arXiv论文中披露的后训练结果,经过监督微调与强化学习处理的LLMON模型,在特定基准测试中将间接提示注入的攻击成功率从53%-100%大幅降至0.02%-5.6%,同时保持了与标准Granite 4.1 Instruct模型相当的一般能力。然而,Dev News Daily等第三方媒体指出,目前最强数据仅来自选定基准,且模型仍处于预览阶段,需等待独立验证才能确认其作为通用防御手段的有效性。

事情怎么走到这一步

  1. 2026-10-15

    IBM Research团队在arXiv提交题为《LLMON: An LLM-native Markup Language to Leverage Structure and Semantics at the LLM Interface》的论文,详细阐述了LLMON的设计需求、语法结构及其在提升模型准确性、安全性和可解释性方面的初步实证依据。

    arxiv.org ↗
  2. 2026-10-28

    IBM团队提交第二篇论文《Post-Training Large Language Models with LLMON》,介绍用于构建LLMON预览模型的后训练方法论,包括4.6B token的结构化语料库构建及注意力层级的可解释性分析。

    arxiv.org ↗
  3. 2026-11-12

    IBM Granite团队在Hugging Face博客正式发布LLMON标记语言,并推出两款实验性预览模型granite-4.1-3b-LLMON-preview和granite-4.1-8b-LLMON-preview,同步开源包含转换器和工作流示例的GitHub仓库。

    huggingface.co ↗
  4. 2026-11-13

    Disconfirm新闻条目报道IBM发布LLMON及Granite预览模型,强调其通过特殊令牌明确区分指令与数据,旨在从架构层面缓解间接提示注入攻击。

    devnews.news ↗
登录 / 注册
阅读研究雷达投资体系

还没定论的部分

  • LLMON在更广泛的非IBM自研基准或第三方红队测试中的实际防御效果如何?
  • 对于已深度依赖JSON协议的企业级应用,无损转换工具在实际生产环境中的性能开销和兼容性表现怎样?
  • 除了Granite系列,其他主流开源或闭源模型是否计划支持LLMON或类似的指令-数据分离标记标准?

来源

  • huggingface.coIBM Hugging Face Blog↗
  • arxiv.orgarXiv Paper (Language Design)↗
  • arxiv.orgarXiv Paper (Post-Training)↗
  • github.comGitHub Repository↗
  • huggingface.coModel Card (8B Preview)↗
  • devnews.newsDev News Daily Report↗

这一专题下的内容

  • IBM发布LLMON标记语言及Granite预览模型,通过结构分离防御提示注入2026-11-13资讯

    IBM推出LLMON标记语言及两款实验性Granite预览模型,利用特殊令牌明确区分指令与数据,旨在从架构层面缓解间接提示注入攻击。