IBM发布LLMON标记语言及Granite预览模型,通过结构分离防御提示注入
IBM推出LLMON标记语言及两款实验性Granite预览模型,利用特殊令牌明确区分指令与数据,旨在从架构层面缓解间接提示注入攻击。
IBM于2026年11月12日发布了LLMON(LLM Object Notation),一种专为大语言模型设计的原生标记语言,并同步推出了两个基于Granite 4.1基础模型微调的实验性预览版本:granite-4.1-3b-LLMON-preview和granite-4.1-8b-LLMON-preview。这些模型被训练用于消费和生成带有LLMON标签的文本。
LLMON的核心创新在于使用保留的特殊令牌来显式标记指令、数据和需求等结构组件。与依赖可能在普通文本中出现的字符(如JSON中的引号)不同,LLMON使用独特的分隔符,使模型能够区分可执行命令和被动数据负载。这种结构分离旨在缓解间接提示注入攻击,即恶意指令隐藏在检索到的文档或用户数据中。
根据IBM在OPI基准测试上的内部评估,LLMON模型在抵御静态间接提示注入方面表现出比其它开源和闭源模型更高的鲁棒性。公司报告称,这些模型避免的攻击比测试的最佳前沿模型多47%,比最佳开源模型多95%,同时保持了与标准Granite 4.1 Instruct模型相当的通用能力。
此次发布还包括一个GitHub仓库,其中提供了转换工具,允许用户将现有的JSON管道无损地转换为LLMON格式。此外,IBM还提供了演示笔记本,展示如何在LLMON模型之上微调LoRA适配器以理解自定义领域特定词汇。这些是供研究和评估使用的实验性预览,并非生产就绪版本。