返回知识库

AI 与提示 · 智能体与连接

人工参与Human in the Loop

人工参与是在高风险或不可逆步骤插入人的确认:AI 准备证据,人通过、拒绝或修改。代价是慢一步,换来能拦、能撤回、能追溯。

先认出这张确认条,再看钱是谁放出去的

下面就是大额退款确认条。默认停住等人;全自动会把 ¥3,200 直接打出;误点通过也能在打出前撤回。

RF-2403 · 退到新账户等人确认

¥3,200

账户 2 天前改过 · 回滚:取消退款即可

大额、不可逆。AI 只准备证据,最后一下由人按。

原因:金额大、账户刚改过,属于不可逆。下一步:看全自动会把钱直接打出去。

知识点:停住不是减速,是交方向盘

确认条上的章和撤回已经演过,这里只给命名。

  • 人工参与 = 在高风险、低置信或不可逆步骤插入人的通过 / 拒绝 / 修改。
  • 置信度高不等于批准。金额、删数据、对外发送,都要单独设暂停点。
  • 确认条要写清对象、证据、回滚方式和点下去会发生什么。
  • 人也会点错。必须能撤回,并留下谁、何时、为什么。

什么时候用、怎么用

自动跑得动,但错一次补不回来时,才把最后一下交给人。

  • 信号:大额资金、删库、发客户消息、改权限。
  • 适用:AI 起草和取证,人看证据后点确认;拒绝就停副作用。
  • 不适用:可逆的草稿、内部预览——不必每步等人。
  • 最短路径:标出暂停点 → 出示证据和回滚 → 人点 → 留下审计。

正反例:同一笔 ¥3,200 退款

工单都是 RF-2403,只差有没有停。

正例确认条停住,发现账户刚改过

人拒绝后退款没打出,钓鱼账户被拦住。

反例0.88 置信度直接打出

听起来很稳。钱已经到新账户,只能事后追。

快速自测

模型对一笔 ¥3,200 退款给出 0.92 置信度。最不该怎么做?

继续查证

术语的技术定义和行为以这些一手或权威资料为准。

下一步学

和本知识点经常一起出现的概念。