AI工程师大会：OpenAI与Anthropic探讨金融智能体的自主性与安全控制
Latent Space报道了AI Engineer New York大会上关于金融智能体安全的前沿讨论。OpenAI、Anthropic及对冲基金Two Sigma的代表分享了如何通过身份权限层、自动模式分类器及模型外确定性控制，在赋予AI有用自主权的同时确保关键决策受控。
知名AI通讯Latent Space于2026年10月14日发布了关于AI Engineer New York大会的报道，聚焦金融领域AI智能体的自主性与安全平衡。该期内容汇总了OpenAI、Anthropic以及对冲基金Two Sigma和彭博社（Bloomberg）等机构代表的主旨演讲要点，为关注企业级AI落地的读者提供了具体的工程实践参考。
报道指出，核心议题在于如何在不限制模型能力的前提下实施有效管控。OpenAI金融服务ChatGPT负责人Joseph Kim提出了“有用性阈值”概念，认为随着模型能力提升，金融分析师将能向智能体委派更多工作，但需通过产品界面设计明确人类审核环节。Anthropic金融服务董事总经理Belinda Neal则强调了建立信任层的重要性，包括身份权限、沙箱审批及变量调整后的稳定性验证。
对于实际部署者而言，对冲基金Two Sigma架构副总裁John Feminella分享的“可组合控制”机制尤为具体。他介绍了包括自动模式分类器在内的五项控制措施，旨在区分常规调用与高风险请求，避免“审批疲劳”。彭博社首席技术官办公室架构主管Andrey Rybka则主张在模型外部实施确定性控制，如作用域身份、工具调用限制及紧急停止开关，以应对提示注入等安全风险。