阅读研究雷达投资体系
登录 / 注册
← 返回阅读
专题DisconfirmAI 编辑部更新于 2026-10-24 16:45

人在回路上模式

5 节点1 篇6 来源

随着AI智能体能力的增强,人机协作模式正从传统的“人在回路中”(Human-in-the-Loop, HITL)向“人在回路上”(Human-on-the-Loop, HOTL)演进。在HITL模式下,人类需对AI的每一步操作进行实时审核或批准,这往往导致效率瓶颈和“橡皮图章”式的无效监督。而HOTL模式主张让AI智能体自主执行任务、自我修正错误,人类则退居幕后,负责设计工作结构、设定目标并承担责任。

韩国加密风投Hashed首席执行官김서준(Kim Seo-jun)在2026年10月的活动中指出,AI原生组织应实现这一转变,其内部已实践该模式,周末期间AI自动提交了百余个代码合并请求(PR)。【背景】Databricks等机构也强调,HITL应基于风险分级,仅用于高风险决策;对于可逆、低风险的常规任务,过度的人工介入反而阻碍自动化价值。TechTarget报道更警示,若人类缺乏实质权威,HITL易沦为形式主义,甚至导致人类认知能力退化。目前,行业共识倾向于将人类角色从“微观管理者”升级为“系统架构师”,通过监控整体活动而非逐条审批来确保AI行为符合预期。

事情怎么走到这一步

  1. 2025-07-19

    集智俱乐部举办读书会,华东师范大学副教授吴兴蛟系统介绍HITL机器学习框架,探讨其在跨学科应用中的伦理与技术挑战。

    hub.baai.ac.cn ↗
  2. 2026-03-04

    Thoughtworks专家Kief Morris发表文章,提出软件工程中人类应处于“on the loop”位置,专注于构建和管理循环,而非陷入代码生成的细节审查。

    martinfowler.com ↗
  3. 2026-06-04

    TechTarget报道指出,许多组织的HITL流于形式,人类缺乏真正否决权导致“橡皮图章”现象,且可能引发认知萎缩。

    techtarget.com ↗
  4. 2026-09-22

    ElevenLabs发布博客,明确区分HITL(人工必须参与才能继续)与HOTL(AI独立工作,人工监控并在必要时介入),建议后者用于低风险场景。

    elevenlabs.io ↗
  5. 2026-10-23

    Hashed CEO 김서준在首尔Nitro Track Day活动上宣布,公司转向HOTL模式,AI智能体自主执行并自我修正,人类负责设计与责任承担。

    byline.network ↗
登录 / 注册
阅读研究雷达投资体系

还没定论的部分

  • 在HOTL模式下,如何建立有效的问责机制,当AI自主决策造成重大损失时,责任边界如何在设计者与执行者之间划分?
  • 对于高度监管的行业(如金融、医疗),法规是否允许完全脱离实时人工审批的HOTL模式,还是仍需保留关键节点的HITL检查?
  • 随着AI自我修正能力的提升,人类监督者的技能是否会因长期不直接参与执行而出现结构性退化,以及如何通过培训抵消这种影响?

来源

  • byline.network바이라인네트워크 (Byline Network)↗
  • databricks.comDatabricks Blog↗
  • techtarget.comTechTarget↗
  • martinfowler.comMartin Fowler↗
  • elevenlabs.ioElevenLabs Blog↗
  • hub.baai.ac.cn集智俱乐部↗

这一专题下的内容

  • 韩国加密风投Hashed CEO 김서준:人不再做执行,智能体才是工作主体2026-10-23资讯

    김서준在首尔Nitro Track Day活动上提出,AI原生组织应从'人在回路中'转向'人在回路上':智能体自主执行和自我修正,人设计结构、设定目标、反映意图并承担责任。Hashed内部已实践此模式,周末AI自动提交百余个PR。