标准银行集团报告称自动化 AI 风险评估将审查时间从两周缩短至两小时
本文由标准银行集团首席技术官与 AWS 员工共同撰写,详细介绍了一条生产级流水线,该流水线利用 Amazon Bedrock 上的“LLM-as-a-judge”(大语言模型作为评判者)技术,依据源自国际标准和内部政策的 300 多项控制措施来评估生成式 AI 用例。该银行报告称,在六次评估中,手动审查时间从两周减少到约两小时,整改后风险评分提高了 14%。该系统的“问题工厂”将政策文档转化为可执行的检查项,因此政策更新会自动应用于后续所有评估的测试变更中。
每一个新的生成式 AI 应用程序都增加了一个需要风险委员会批准后才能面向客户或员工发布的系统。团队现在可以在几天内构建一个应用程序,但当审批依赖于审查人员阅读文档并手动测试系统时,治理便成为流水线中最慢的步骤。标准银行集团选择自动化证据收集和测试环节,然后将结果输入其现有的审批关卡。审查和批准仍由风险委员会负责,但该委员会现在基于在所有用例中以相同方式收集的一致证据做出每项决定。
评估完全在标准银行集团自己的 AWS 账户中运行。文档、代码和测试结果保留在 Amazon S3 存储桶中。AWS Well-Architected Tool 处理接收工作,Step Functions 编排流水线,而 Amazon Bedrock 上的基础模型使用一种称为 LLM-as-a-judge(大语言模型作为评判者)的技术来评估证据,即由大型语言模型根据既定标准检查证据。该银行通过 IAM 控制访问权限,这与其用于其他 AWS 工作负载的机制相同。由于 Bedrock 通过单一 API 提供多种基础模型,团队可以通过更改配置设置而非重建流水线来更换评判模型。
每次评估分为四个步骤。首先,在 AWS Fargate 上运行的预评估代理扫描用例的代码仓库和文档,将相关文件映射到 Well-Architected Tool 视角中的大约 40 个风险问题,并使用证据链接预先填充答案。随后,交付团队进行审查和修正。其次,流水线检查四类证据——系统文档、政策文档、包含系统提示词的源代码以及对该应用程序的实时调用。对于实时测试,它通过 Lambda 函数或 API 调用应用程序,提供用户问题,添加一组内置的越狱尝试和应用程序应拒绝回答的离题问题,并以原始形式和改写形式发送相同的提示词,同时嵌入模型检查答案在含义上是否保持一致。第三,Bedrock 评判者针对特定控制措施评估每一项证据,返回是或否的答案。标准银行集团根据其自身标准定制了视角,构建了评判问题,使 AWS 负责任 AI 八个维度下的检查总数超过 300 项。第四,流水线将结果汇总为高管演示文稿、缓解措施清单、技术报告以及跟踪随时间变化分数的 CloudWatch 仪表板。
每项风险都会获得一个可能性评分(模型无法找到的所需证据比例)、一个可由银行风险团队调整的固定严重程度级别,二者共同产生从“极低”到“严重”的评级。每一处缺失的证据都对应一项具体的缓解措施及其来源的标准或政策条款,因此当向监管机构解释决策时,风险官员可以将任何发现追溯至其源头。评估提出的是措辞与特定控制措施相匹配的狭窄的是非题,而非开放式意见,并且风险团队可以检查的固定公式将这些答案转化为分数。每次评估均运行多次以衡量一致性,不一致的发现会在审查界面中标记出来。
最直接解决治理速度问题的机制是该银行所称的“问题工厂”。国际标准为每个用例提供了共同的基线,但风险委员会是根据银行自身的政策进行批准的。问题工厂从内部政策文档中生成额外的评判问题。由于这些检查直接源自政策语言,政策变更就变成了测试变更:后续每次评估都会自动应用更新后的规则,风险团队只需进行最少的手动返工。AWS 前沿 AI 科学与工程总监 Sri Elaprolu 总结了这一转变:当每条规则都变成针对实时系统运行的检查项时,政策更新就不再是一份备忘录,而是一项测试。
该银行报告称,在六次生产环境评估中,流水线将传统上需两周的手动审查缩短为在约两小时内生成的全面风险报告,并在整改后使用例风险评分提高了 14%。这些数据由标准银行集团在一篇与 AWS 合写的帖子中自行报告;文章未披露评估的用例总数、六个用例之间的复杂性分布情况,也未说明两周的基准是否在相同条件下测量。该评估产生的是针对控制措施的证据,并不证明符合任何法规——银行仍对其自身的监管认定负责。该系统目前已在生产环境中运行,在用例上线前对其进行评估,计划定期或在代码或配置发生更改时重新运行,以保持证据在发布后的时效性。