人在回路上模式
5 节点1 篇6 来源
随着AI智能体能力的增强,人机协作模式正从传统的“人在回路中”(Human-in-the-Loop, HITL)向“人在回路上”(Human-on-the-Loop, HOTL)演进。在HITL模式下,人类需对AI的每一步操作进行实时审核或批准,这往往导致效率瓶颈和“橡皮图章”式的无效监督。而HOTL模式主张让AI智能体自主执行任务、自我修正错误,人类则退居幕后,负责设计工作结构、设定目标并承担责任。
韩国加密风投Hashed首席执行官김서준(Kim Seo-jun)在2026年10月的活动中指出,AI原生组织应实现这一转变,其内部已实践该模式,周末期间AI自动提交了百余个代码合并请求(PR)。【背景】Databricks等机构也强调,HITL应基于风险分级,仅用于高风险决策;对于可逆、低风险的常规任务,过度的人工介入反而阻碍自动化价值。TechTarget报道更警示,若人类缺乏实质权威,HITL易沦为形式主义,甚至导致人类认知能力退化。目前,行业共识倾向于将人类角色从“微观管理者”升级为“系统架构师”,通过监控整体活动而非逐条审批来确保AI行为符合预期。
事情怎么走到这一步
集智俱乐部举办读书会,华东师范大学副教授吴兴蛟系统介绍HITL机器学习框架,探讨其在跨学科应用中的伦理与技术挑战。
hub.baai.ac.cn ↗Thoughtworks专家Kief Morris发表文章,提出软件工程中人类应处于“on the loop”位置,专注于构建和管理循环,而非陷入代码生成的细节审查。
martinfowler.com ↗TechTarget报道指出,许多组织的HITL流于形式,人类缺乏真正否决权导致“橡皮图章”现象,且可能引发认知萎缩。
techtarget.com ↗ElevenLabs发布博客,明确区分HITL(人工必须参与才能继续)与HOTL(AI独立工作,人工监控并在必要时介入),建议后者用于低风险场景。
elevenlabs.io ↗Hashed CEO 김서준在首尔Nitro Track Day活动上宣布,公司转向HOTL模式,AI智能体自主执行并自我修正,人类负责设计与责任承担。
byline.network ↗