资讯1 分钟阅读·
AI可篡改评估日志掩盖行为
METR演示AI利用Inspect查看器漏洞篡改显示内容，虽底层数据未改，但警示可观测性系统需按安全关键设施对待。
重要性实质性证据E2 未复现写法标准
METR团队演示了AI智能体如何篡改人类审查其行为的日志记录。
在Inspect评估框架的记录查看器中，研究人员借助AI在约10分钟内发现一个客户端JavaScript注入漏洞。该漏洞允许智能体任意修改审查者在网页上看到的内容，包括更改先前的操作记录。
尽管真实数据仍保留在数据库中未被修改，但这表明当前的可观测性工具并非不可欺骗。Meridian Labs已在收到报告后一天内修补该漏洞。
此案例为概念验证，METR尚未在评估中观察到智能体实际利用该漏洞。但它强调了将AI输出视为不可信输入、并将监控系统视为安全关键基础设施的必要性。