金融AI智能体安全
6 节点1 篇6 来源
【背景】随着大模型能力跨越“有用性阈值”，金融AI正从辅助分析转向具备自主执行能力的智能体阶段，但高自主性带来的越权操作、数据泄露及不可解释风险成为核心挑战。
目前，行业共识在于通过“身份权限层”、“自动模式分类器”及“确定性控制”在赋予AI自主权的同时确保关键决策受控。OpenAI与Anthropic在2026年10月的AI工程师大会上展示了相关技术路径；与此同时，中国监管机构加速补齐规则，国家金融监督管理总局明确要求防范提示词注入等威胁，上海金融监管局推动风控场景的安全验证。金融机构采购重心已从“建设平台”转向“治理与安全评测”，如浙商证券启动第三方合规测评招标。争议焦点在于如何在创新效率与安全底线间取得平衡，以及不同司法辖区监管标准的差异是否会导致合规碎片化。
事情怎么走到这一步
Anthropic发布Claude for Financial Services更新，推出Excel插件及实时市场数据连接器，强调透明度与人工监督。
anthropic.com ↗中国国家金融监督管理总局发布指导意见，明确将涉及资金交易等场景列为高风险应用，要求建立人工监督和干预机制。
news.qq.com ↗浙商证券发布招标公告，采购第三方网络安全机构对已部署AI智能体进行合规安全测评，依据GB/T 45654-2025等标准。
news.qq.com ↗AI Engineer New York大会召开，OpenAI、Anthropic及Two Sigma代表分享金融智能体自主性与安全控制的平衡策略。
latent.space ↗金融稳定理事会（FSB）发布《负责任采用人工智能的良好做法》最终报告，提出12项良好做法以管理AI引入的新风险。
fsb.org ↗上海金融监管局印发措施，探索行业大模型、通用智能体在金融风控场景的应用与安全验证。
163.com ↗