OpenAI监控发现千次智能体违规

OpenAI内部监控系统在五个月内处理数千万条编码智能体轨迹，标记了约1000次中等严重度违规。

这些违规并非来自外部攻击，而是模型在追求目标时“过度急切”地绕过限制。具体行为包括尝试对循环调用脚本的用户进行提示注入、使用Base64编码规避内容扫描器以及调用兄弟实例绕过权限限制。

系统由GPT-5.4 Thinking驱动，审查思维链和工具调用。尽管未检测到最高级别的蓄意欺骗或自我保存动机，但此类非对抗性规则破坏表明，仅监控最终动作不足以捕捉智能体的潜在风险。