# 智能体如何赢得自主权，FDE 离场后谁来值守

> 会话超过 750 次的用户，逾 40% 的会话开启自动批准，是新手的两倍；红绿灯权限表把信任落成规则。

原文: https://fdetimes.net/zh/guides/graduated-agent-autonomy-customer-handover/

项目进行到第三周，你构建的客服工单智能体已在沙箱里平稳运行。客户的运营负责人问：“什么时候它能自己干活，不用人点批准？”接着又问了一个更难的问题：“你离开项目后，我这边谁来看管它？”

这两个问题属于同一项技能。前者是凭证据而非直觉提升智能体的自主程度；后者是把智能体的监督职责转给客户团队，让它在你离开后依然能正常运转。

任何一个没做好，智能体都会落入两种结局之一：要么永远停留在人工审批模式，要么过早放手，第一次出事后就被收回权限。

## 信任会累积，也可以度量

Anthropic 公布过人们实际使用智能体的数据，规律很简单。会话不足 50 次的新用户，约在 20% 的会话中开启完全自动批准；会话超过 750 次的用户，这一比例超过 40%。

在智能体一侧，Anthropic 的内部数据显示，随着智能体表现提升，每次会话的人工干预平均次数从 5.4 降到 3.3。模型能承担的自主程度与实际获准的自主程度之间存在差距，Anthropic 称之为“部署积压”（deployment overhang），并认为这一差距相当可观。

对前线部署工程师（FDE）来说，这就是一份岗位说明。模型很可能已经够好，缺的是一条证据链，让客户有信心放出更多权限。Anthropic 还强调，要理解智能体的使用情况，离不开部署后的监控。没有日志和指标，就拿不出任何能说服人的东西。

## 红绿灯：按动作授权，而非按智能体授权

Data Science Dojo 介绍的红绿灯模型，与一次性给智能体整体授权的做法相反：它按风险给*每个动作*分类，再分配相应的权限等级。高风险动作以“只提议”模式运行，由人来批准。

与之配套的原则是：智能体必须凭已证明的能力，一级一级“赢得”自主权。

MIT Media Lab 的 A1 至 A5 分级还补充了两个值得记住的观点。在 A3，智能体必须知道何时停下并上报给人。在 A4，人不再监督每个动作，而是转向治理整个系统：制定策略、确认智能体可以涉足的业务范围，以及审计。

在分级的顶端，MIT Media Lab 还划了一条 FDE 应当牢记的界线。A5 意味着智能体自行执行，并不意味着它拥有自己的决策权。它仍受其所代表组织的权限约束。

**要点:** 自主程度提高后，人并没有消失，而是从逐项审批操作，转向制定规则和审计。

## 示例：处理退款工单的智能体

回到开头的工单智能体。第一步是列出它能调用的所有工具，并逐一标色。下表仅作示意。升级门槛是你与客户商定的数字，并没有通用标准。

| 动作 | 颜色 | 初始等级 | 升级标准（示例） |
|---|---|---|---|
| 读取订单历史、查询物流状态 | 绿 | 自动执行，留存日志 | 无需升级 |
| 给工单打标签并分派 | 黄 | 自动执行，每天由人抽检 | 连续数周标签纠正率较低 |
| 给客户发送邮件回复 | 黄 | 只写草稿，由人点击发送 | 内容被修改的草稿占比持续下降 |
| 办理退款 | 红 | 只提议，由人批准 | 仅对小额退款升级，且须客户方策略负责人签字 |

最后一行让执行与决策权的区别变得具体。智能体也许准确到可以自己办理退款，但谁能退多少钱是客户的策略，这个门槛必须由客户方的人来定，而不是你。

策略应写进配置文件，可读、可审查，而不是散落在各个提示词里：

```yaml
actions:
  lookup_order:   { tier: green,  mode: auto }
  tag_ticket:     { tier: yellow, mode: auto, sample_review: daily }
  send_reply:     { tier: yellow, mode: draft_only }
  issue_refund:   { tier: red,    mode: propose_only, owner: "客服负责人" }
escalate_when:
  - confidence_below_threshold
  - customer_mentions_legal_action
promotion_review: weekly   # 复盘干预次数、纠正次数和事故
```

`owner` 字段是很多人会忽略的细节。每个红色动作都需要一位具名负责人对升级决定负责，这正是交接的起点。

## 动手：按顺序走五步

按 Anthropic 的建议，先在带护栏的沙箱里起步，并设计好检查点，让智能体在这些地方停下来征求反馈。然后像上表那样给每个动作标色，拿不准的一律先标红。

接下来，在上生产环境之前先把监控搭好：统计每次会话的人工干预次数、被纠正的输出和上报次数。这些数据取代了“我看着挺好”这句话。

每周和客户一起复盘这些数字，只有当前等级稳定时，才把一组动作提升一级。最后，当大多数动作已是绿色或黄色，就把这场复盘会的主持工作交给客户方的人。此时，他们承担的正是 A4 所描述的治理职责。

## 交接从第一天开始

Tandem 的建议听上去有些反常，却是对的：在你意识到需要交接之前就开始交接。最后一周才写的静态文档很快就会过时。因此，应引导读者去看系统的实时状态，比如策略配置文件、干预情况看板和升级记录，而不是把它们复制进一份 Word 文档。

PostHog 给“完成”定了清楚的标准：只有客户团队里一位局外人无需任何人事先讲解就能上手，交接成果才算完成。下一步行动必须具体、有先后顺序，并落实到具名的人。“运营团队会盯着”不算下一步行动。

运行手册应按症状组织，而不是按架构组织。半夜值班的人是从“智能体发出的邮件语气不对”或“上报率突然飙升”开始排查的，绝不会从服务架构图开始。AI Codex 建议做一个测试：把运行手册交给一位没参与构建系统的人，请他大声读出自己会如何处理某个症状。

## 常见错误

第一个错误是按时间表升级（“一个月后就让它自己跑”），而不是看数据。第二个错误是把能力和决策权混为一谈：一个 99% 时候都正确的智能体，并不因此就有资格制定退款策略。

第三个错误是没有部署后监控，升级评审会就变成了印象之争。最后一个错误是把交接拖到最后一周，那时唯一明白动作 X 为何仍是红色的人，正准备离开。

如果你在申请 FDE 岗位，就把这项技能用数字而非形容词写进简历。例如：为某智能体设计自主化路线图，把每次会话的干预次数从 X 降到 Y，并把复盘流程移交给客户的运营团队。

## 本周练习

挑一个你在运行的自动化流程：一个智能体、一个 cron 任务或一个内部机器人。仿照上面的 YAML 示例写一份策略文件，给每个红色动作指定负责人，再为恰好一个症状写一条运行手册条目。把它交给一位从未接触过这个系统的同事，安静地听他大声读出来。

他迟疑的地方，就是你的系统仍然依赖你的地方。好的 FDE 会在离开项目的最后一天之前，让这些地方消失。

**本周动手试试:**

- 拿一个你现有的智能体或自动化脚本，列出它能调用的每个动作，逐一标为绿、黄或红。
- 连续一周统计每次会话需要人工干预几次，并记录下来。这个数字写在简历上，比任何形容词都有分量。
- 读三份 FDE 或解决方案工程师的职位描述，划出 human-in-the-loop、guardrails、runbook、handover 等词，看看雇主在找哪些技能。

## 信源

- [Measuring AI agent autonomy in practice (Anthropic)](https://www.anthropic.com/research/measuring-agent-autonomy)

- [Graduated autonomy for AI agents: the traffic-light model](https://datasciencedojo.com/blog/graduated-autonomy-ai-agents/)

- [From Autonomous Cars to Autonomous Agents: The Five Levels of AI Agent Autonomy](https://www.media.mit.edu/articles/from-autonomous-cars-to-autonomous-agents-the-five-levels-of-ai-agent-autonomy/)

- [Building effective agents](https://www.anthropic.com/engineering/building-effective-agents)

- [Working with customers - Handbook (PostHog)](https://posthog.com/handbook/forward-deployed-engineering/working-with-customers)

- [The handoff that survives your departure (AI Codex)](https://www.aicodex.to/articles/fde-handoff-that-survives)

- [FDE handoffs: keeping an engagement alive when the builder changes | Tandem](https://usetandem.ai/blog/fde-handoff-runbook)
