“人机协同”里的红绿黄灯

若把“红绿黄灯”从交通信号升维成人机协同的“关系隐喻”，是一种动态权责协议。谁在当下握有“主导权”？谁该进入“观望”？谁准备“交权”？

1. 红灯——人类主权态

隐喻：把机器“捆在红灯柱上”，它可预警，但不得越线。

人机权责：

- 人类：唯一决策者，承担100%后果。
- 机器：只提供可关闭的提示（声光、文字、轻力反馈），禁止自动执行；所有默认选项都设为“不行动”。

触发场景：
- 伦理高风险（武器开火、手术切断、法律签字）
- 异常模糊区（传感器冲突、模型置信度<阈值）
- 人类主动按下“红灯键”⇋ 等同于“机器断电闸”

HMI设计：
- 灯环红色常亮 + 按钮物理凸起 → 拍下去即可让AI退出。
- 语音回应“收到，我已退至红灯。”（让人类听见确认）

2. 绿灯——机器主权态

隐喻：机器拿到“路权”，人类可“搭便车”，但保留“一脚刹”。

人机权责：

- 机器：拥有瞬时控制权，负责轨迹、速度、参数调优。
- 人类：保留否决权（深踩制动、硬拉操纵杆、长按Esc）。

触发条件：
- 任务目标明确、环境模型置信度> X% 、人类连续N秒未干预。
- 人类主动“授权滑块”推到绿区 → 相当于“自动驾驶模式On”。

HMI设计：
- 灯环绿色呼吸 + 仪表盘显示“AI通过路口倒计时”
- 任何时刻人类反向输入力>阈值 → 绿灯瞬切黄灯 → 进入“协商”

3. 黄灯——灰度协商态

隐喻：双方同时踩在白线前，谁也不敢先冲，必须“对视”再决定。

核心语义：
- 不确定、权值接近、需要1～3秒的共同概率演算。
- 不是“警告”而是“对话邀请”——系统必须向人类说明“我在犹豫什么”。

典型场景：
- 传感器数据冲突（视觉vs雷达各执一词）
- 目标函数出现多解且帕累托前沿平坦（“两条路一样好”）
- 人类与AI的预测差>Δ（“我想左转，它想直行”）

HMI设计：
- 灯环黄色闪烁 + 方向盘/鼠标轻振两下 → 让肢体感知“灰度”
- 屏幕弹出“黄灯面板”：
– 左侧：AI的推荐+置信条
– 右侧：人类可随手势/语音微调；若人类不回应，系统按“保守缺省”执行
- 黄灯最长持续T_max（如3s），超时仍无共识→自动降级到“红灯”

4. 三色之外的“蓝灯”——协同编队内码

- 仅机器间可见（V2X、API心跳、云端token），人类无需理解。
- 用于“多AI队列”同步：无人车编队、机械臂群、分布式AIGC节点。
- 人类看到依旧按“绿灯”理解，但知晓“此刻机器在内部讲暗号”。

5. 一张可打印的“协同协议卡”

灯色 人类感受 机器状态 切换触发 失败默认
🔴红灯 我全权 零执行 人类主动/置信度<阈值 ——
🟢绿灯 我监督 全速执行 人类否决力>阈值 黄→红
🟡黄灯 我对话 犹豫中 双方达成共识 超时→红

6. 小结：让灯语回到“人”

- 红灯不是“机器失败”，而是人类主权声明；
- 绿灯不是“人类偷懒”，而是机器被信任；
- 黄灯不是“系统警告”，而是双向对话邀请。

把这套“灯”写进界面、写进规章、写进肌肉记忆，人机协同就能在“权、责、对话”三条线上持续振荡，既不会陷入“机器暴政”，也不会滑向“人类独断”，而是在三色循环里——一起安全地通过路口。