保险科技公司COO：AI代理最难的问题不是技术，而是谁对它负责

加州房东在租客搬离后有21天退还押金或寄出逐项扣除清单。逾期且恶意拖欠，罚金可达押金的两倍。这条法律期限不关心那封信是人写的还是软件生成的——无论如何，有人要为此负责。

Rick Folgmann是保险科技公司Get Covered的首席运营官。他的公司目前在超过300万套出租房中运行16个AI代理。他回忆搭建这些代理的经历时说，技术问题反而是更容易的部分；真正困难的问题，对每一个代理而言，是它向谁汇报。

他认为大多数公司即将面对同样的问题，而很少有人准备好了。德勤2026年AI现状调查显示，23%的企业已在中等程度上使用代理式AI，74%预计两年内达到这一水平；Gartner则预测到2027年底超过40%的代理式AI项目将被取消。

Folgmann的结论是：这些数字说明代理应该像受监管岗位的员工一样运行——有书面规则、明确范围、一个经理和定期审查。他给出了三条从自身运营中提炼的实践。

第一，从已有规则的任务起步。最好的早期代理候选是那些规则已经存在于某个人脑之外的任务：一部法律、一个合同条款、供应商协议中的保险要求。他举了供应商保险证明的例子——整个行业的物业团队每周每处房产大约花三小时通过邮件追这些文件。工作枯燥，但完全有章可循。代理有客观标准可以校验输出，团队审计结果时也不需要争论判断。他的经验法则是：如果一个新员工在第一天无法按你的描述做出决定，代理也做不到。

第二，按工作流设定自主权。他注意到技术高管常问一个AI系统是否自主，仿佛这是产品的固定属性。实际上同一个代理应根据它接触的内容运行在不同自由级别上。在Get Covered，提醒下月到期的供应商证书可以自动发出；回复一位申请情感支持动物的住户则永远不会自动发出。他建议领导层列出代理将触及的每个工作流，对每一个问同一个问题：如果这个动作是错的，我们多久能发现，届时已经付出了什么代价？快速发现和低成本赢得代理更大的空间。

第三，给每个代理一个有名字的负责人。Folgmann早年在金融行业学到，每一个自动化的信贷决定最终都必须向客户或监管机构解释。

模型做的从来不是可接受的回答。这个原则今天仍然成立，只不过代理现在比任何承保模型行动得更频繁、跨越的系统更多。所以在Get Covered，每个代理都有一个最终负责的人，就像一个团队或一个预算有负责人一样。那个人审查它的错误日志，决定何时扩大或缩小它的自主权，并为它承担责任。

他还指出一个更安静的问题：当多个团队独立启动代理时，没有人看到这些代理在哪里互相矛盾。

Folgmann承认模型会持续改进，但一个公司关于谁决定什么的清晰度不会自行改善。他认为Gartner的取消预测反映的正是这一点：大多数失败的代理项目不是因为模型不够好，而是因为没有人定义价值或控制风险——这两个都是管理问题。

他的建议是：把每个代理当作受监管岗位上的新员工来对待。写下它的规则，限制它的范围，指派一个检查它工作并讨论它表现的经理。这样做的公司将能够随着时间推移给代理更多责任，因为它们有证据来证明这样做是合理的。跳过这一步的公司将在2027年解释为什么它们的软件做了没有人批准的事。

需要指出的是，Folgmann的框架建立在一个特定前提上：组织具备执行这些管理动作的纪律。他引用的Gartner预测——超过40%的代理项目将被取消——恰恰暗示许多公司缺乏这种纪律。他的建议对已经具备基本运营治理能力的团队有直接操作价值，但对那些连规则文档都不愿写的组织而言，诊断正确未必等于可执行。