阅读研究雷达投资体系
登录 / 注册
← 返回阅读
资讯实质变化1 分钟阅读DisconfirmAI 编辑部

谷歌推出Gemini平台语义治理策略预览版,用大模型审查AI代理操作

谷歌在Gemini平台推出语义治理策略预览版,通过大模型判断器在执行前检查AI代理的工具调用是否符合自然语言规则及用户意图。

2026-11-20

2026年11月20日,谷歌宣布在其Gemini平台推出“语义治理策略”(Semantic governance policies)的预览版。这一功能旨在解决企业AI安全中的一个关键缺口:传统的权限系统仅定义AI代理“可以”做什么,却无法判断特定操作是否符合业务规则或用户意图。通过在代理代码之外引入策略执行点,谷歌试图防止未经授权的操作,如数据泄露或任务劫持。

该机制的工作原理是在AI代理提出的每个工具调用执行之前进行拦截。一个由大语言模型(LLM)担任的判断器会根据两个标准评估该调用:首先,对照合规团队编写的自然语言策略(例如,“财报发布前不得分享季度业绩”);其次,对照原始用户请求,以确保代理没有偏离其预期任务。如果任一检查失败,调用将被阻止,并向代理返回拒绝消息。此过程通过Agent Gateway运行,确保治理逻辑与代理的底层代码和模型指令分离。

这种方法区别于现有的控制手段,如IAM(身份与访问管理)或Model Armor。虽然IAM限制对工具的访问,Model Armor筛查提示注入攻击,但语义治理策略增加了一个内联的、基于语义的防御层。例如,如果用户以NDA为借口要求代理向外部投资者发送财务数据,即使代理技术上拥有发送邮件的权限,系统也可以根据禁止财报前披露的策略拒绝该请求。判决结果和理由会记录在Cloud Logging中以便审计。

谷歌指出,由于判断由LLM做出,因此具有概率性且可能存在波动。建议企业在强制执行前使用试运行模式测试策略。该功能支持多种模型,包括通过Gemini API、Anthropic Messages API以及OpenAI兼容端点访问的模型,允许组织在不同的AI技术栈上应用一致的治理措施。

来源

  • developers.googleblog.com↗
带入研究 →
登录 / 注册
阅读研究雷达投资体系