谷歌“镜像维度”沙盒
2 节点1 篇2 来源
谷歌Chrome团队构建了一个名为“镜像维度”(Mirror Dimension)的隔离合成互联网环境,旨在训练和压力测试AI浏览代理,同时避免对真实用户或网站造成风险。该环境解决了代理式AI开发中的两个关键挑战:一是让未经完善的代理与实时网络交互的危险(可能导致意外购买或数据泄露),二是“评测感知”问题,即模型检测到测试环境后行为会与现实中不同。
“镜像维度”由数千个逼真、可交互的网站组成——包括社交媒体动态、电商平台和银行仪表盘——这些网站由专门的AI编码代理生成。为了保持真实性,谷歌工程师在gVisor沙箱内使用本地拦截代理,将代理对真实域名(如youtube.com)的请求路由到这些合成站点。关键在于,系统动态签发链接到仅安装在沙箱中的自定义根证书的TLS证书,使代理能够使用标准Chrome安全检查进行浏览而不触发警告。这种设置确保URL保持真实,页面结构足够复杂,以防止模型识别出它们正在接受测试。
该沙盒的一个核心功能是针对间接提示词注入攻击进行红队测试。团队没有将恶意指令嵌入可见的URL参数中(这容易被高级模型检测),而是通过隐藏的HTTP头(如X-Sandbox-Injection-Key)注入攻击载荷。这使得一名安全工程师每天能生成超过1,000个对抗性测试用例,速度比手动方法快三十倍。虽然谷歌表示该基础设施目前仅供内部使用,但工程总监Doug Turner指出计划扩大公司内部其他团队的访问权限,并鼓励外部采用类似的基于模拟的测试方法。
事情怎么走到这一步
谷歌Chrome安全团队发布关于用于测试AI代理的“镜像维度”合成网络环境的详细信息。
blog.google ↗WIRED报道了用于训练基于Gemini的浏览代理的平行宇宙互联网的构建情况。
wired.com ↗
还没定论的部分
- 谷歌是否会向外部研究人员开放“镜像维度”或其版本?
- 当前Chrome代理在沙盒中测试的提示词注入攻击中的实际成功率是多少?
- 竞争对手实验室将如何回应基于模拟网络环境的代理安全概念?