谷歌Chrome团队开发“镜像维度”网络沙盒以训练AI浏览代理
谷歌构建受控逼真网络环境,解决AI代理训练中的评估意识与安全风险。
据WIRED报道,谷歌Chrome团队开发了一个名为“镜像维度”(Mirror Dimension)的隔离网络生态系统,用于训练其基于Gemini模型的AI浏览代理。该环境由谷歌完全控制,包含社交媒体、购物和银行仪表板等逼真网站,旨在让代理在安全环境中学习导航和任务完成,同时避免在未成熟时接触真实互联网带来的风险。
这一方法主要解决两个问题:一是防止未经充分训练的代理在开放互联网上造成危害;二是应对“评估意识”(eval awareness),即模型因检测到处于测试环境而改变行为。在“镜像维度”中,代理必须像在互联网上一样交互,并接受隐藏提示注入攻击等韧性测试。
为了快速构建这个庞大且多样的环境,Chrome团队使用了专门的AI框架来生成逼真的Web服务和数据流。研究人员还不得不修改Chrome的安全检查机制,例如伪造Web证书,以便代理能在沙盒中使用真实的浏览器内核进行准确训练。谷歌表示,这些修改仅在其控制的封闭环境中可行,无法针对普通用户实施。