当前位置：首页 > news >正文

人类在环（HITL）的四种正确姿势：从「兜底」到「产能瓶颈」的演进

news 2026/6/28 3:29:54

在几乎所有 AI 智能体 / Agent 系统的设计文档里，你都会看到一句话：

“关键环节引入人类在环（HITL），保证系统安全。”

这句话本身没错，但问题在于——绝大多数人并不知道自己在用的是哪一种HITL。

更严重的是，很多团队：一边高喊「全自动 Agent」，一边在系统的每个关键节点都塞了个人，最后现实是：Agent 没变聪明，人先被拖垮了

作为一个在分布式系统、自动化流程、AI 工程化里踩过足够多坑的工程师，我想先给一个明确结论：HITL不是一个开关，而是一条演进路径。用对了，是系统兜底；用错了，是产能瓶颈。这篇文章，我想把HITL 的四种“正确姿势”彻底拆清楚。

一、第一阶段：HITL = 「安全兜底」

这是 HITL 最原始、也是最合理的形态。典型特征

Agent可以生成结果
但不能直接产生真实影响
所有关键动作，必须经由人类确认

比如：

Agent 生成合同 → 人审 → 才能发给客户
Agent 生成 SQL → 人确认 → 才能跑生产库
Agent 生成对外邮件 → 人点“发送”

工程视角下，这一阶段解决的是什么？把“概率性错误”挡在系统边界内。LLM 会幻觉，这是事实；Agent 会误判，这是必然。在系统刚上线、规则尚未稳定、失败成本极高的阶段：HITL 是必要条件，这不是退步，更不是“不够 AI”。

✅ 正确工程姿势

人类只做Yes / No
不要求人类“帮 Agent 想”
不修改 Prompt
不参与中间推理

人是裁判，不是队友。

二、第二阶段：HITL = 「异常接管」

当系统运行一段时间后，你会发现一个事实：80% 的请求，Agent 都能稳定完成。这时候，如果你还让人类每次都审核，那不是安全，是浪费。于是进入第二阶段。典型特征

Agent默认自动执行
只有在触发异常条件时，才交给人

比如：

置信度低于阈值
状态机走到非法分支
外部系统返回异常
成本超预算

这一步的关键转变是：HITL从“主流程”，退化为“异常处理器”。就像分布式系统里的：人不参与正常请求，人只在告警时介入。

✅ 正确工程姿势

你必须在代码层面明确三件事：

什么是“异常”
1. 不是“Agent 觉得不确定”
2. 而是：
  - 状态非法
  - Schema 校验失败
  - 风险评分过高
异常路径是可追踪的
1. 有 trace_id
2. 有上下文快照
3. 人接手时不是“看一坨对话”
人接手 ≠ 自由发挥
1. 人的操作同样受限
2. 所有人工操作必须可回放、可审计

否则你得到的不是兜底，是人肉补丁。

三、第三阶段：HITL = 「教学信号」

当系统稳定运行后，下一步的诱惑是：“我们能不能用人工介入的数据，反向提升 Agent？”于是 HITL 被赋予了一个新使命：教 Agent 变聪明。这是一个危险、但绕不开的阶段。典型做法

人类修改 Agent 输出
标注“正确 / 错误”
提供更优解
希望系统“下次别犯同样的错”

听起来很美，但现实往往是：人的标准不一致，不同人给出完全不同的“正确答案”，上下文不可复现，最终学到的是噪声。工程世界的残酷真相：人类不是一个稳定的训练信号源。如果你没有：结构化标注规范，明确的任务边界，可复现的输入快照，可验证的收益指标。那所谓“人教 Agent”，本质上是：把主观偏好注入系统。

✅ 正确工程姿势

如果你要用 HITL 作为教学信号，必须满足：

人只修改结构化结果
不允许改自然语言 Prompt
每一次人工修改，都对应：
- 原始输入
- 原始输出
- 修改后的输出
- 修改原因（枚举）

否则：你不是在训练 Agent，你是在污染数据。

四、第四阶段：HITL = 「产能瓶颈」

这是最容易被忽视、但最危险的一种 HITL。表面看，它是“精细控制”；实际上，它是系统扩展性的天花板。典型特征

每个 Agent 都“很依赖人”
流程设计默认“有人盯着”
产能 = 人数 × 时间
系统负载一上来，人先崩

你会听到这样的说法：“这个还得人看一下”，“这个暂时不能全自动”，“这个场景太复杂了”。最后的结果是：Agent 成了人类的UI，而不是替代品。如果你发现：人类介入次数 ∝ 请求量，系统扩容必须先招人，人是流程中的常驻节点。那说明一件事：HITL已经从“兜底”，变成了“设计失败的遮羞布”。

✅ 正确工程姿势

成熟系统里的目标应该是：