智能体如何赢得自主权,FDE 离场后谁来值守
会话超过 750 次的用户,逾 40% 的会话开启自动批准,是新手的两倍;红绿灯权限表把信任落成规则。
要点速览
- Anthropic 的数据显示,信任随经验增长:新用户约在 20% 的会话中开启完全自动批准,会话达 750 次的用户则超过 40%。
- 按风险给每个动作分类,红色动作先以“只提议”模式运行;只有监控数据表明上一级稳定后,才提升一级。
- 交接是把治理职责(制定策略、审计)交给客户方一位具名负责人。交接从第一天开始,并请局外人来检验。
项目进行到第三周,你构建的客服工单智能体已在沙箱里平稳运行。客户的运营负责人问:“什么时候它能自己干活,不用人点批准?”接着又问了一个更难的问题:“你离开项目后,我这边谁来看管它?”
这两个问题属于同一项技能。前者是凭证据而非直觉提升智能体的自主程度;后者是把智能体的监督职责转给客户团队,让它在你离开后依然能正常运转。
任何一个没做好,智能体都会落入两种结局之一:要么永远停留在人工审批模式,要么过早放手,第一次出事后就被收回权限。
信任会累积,也可以度量
Anthropic 公布过人们实际使用智能体的数据,规律很简单。会话不足 50 次的新用户,约在 20% 的会话中开启完全自动批准;会话超过 750 次的用户,这一比例超过 40%。
在智能体一侧,Anthropic 的内部数据显示,随着智能体表现提升,每次会话的人工干预平均次数从 5.4 降到 3.3。模型能承担的自主程度与实际获准的自主程度之间存在差距,Anthropic 称之为“部署积压”(deployment overhang),并认为这一差距相当可观。
对前线部署工程师(FDE)来说,这就是一份岗位说明。模型很可能已经够好,缺的是一条证据链,让客户有信心放出更多权限。Anthropic 还强调,要理解智能体的使用情况,离不开部署后的监控。没有日志和指标,就拿不出任何能说服人的东西。
红绿灯:按动作授权,而非按智能体授权
Data Science Dojo 介绍的红绿灯模型,与一次性给智能体整体授权的做法相反:它按风险给每个动作分类,再分配相应的权限等级。高风险动作以“只提议”模式运行,由人来批准。
与之配套的原则是:智能体必须凭已证明的能力,一级一级“赢得”自主权。
MIT Media Lab 的 A1 至 A5 分级还补充了两个值得记住的观点。在 A3,智能体必须知道何时停下并上报给人。在 A4,人不再监督每个动作,而是转向治理整个系统:制定策略、确认智能体可以涉足的业务范围,以及审计。
在分级的顶端,MIT Media Lab 还划了一条 FDE 应当牢记的界线。A5 意味着智能体自行执行,并不意味着它拥有自己的决策权。它仍受其所代表组织的权限约束。
示例:处理退款工单的智能体
回到开头的工单智能体。第一步是列出它能调用的所有工具,并逐一标色。下表仅作示意。升级门槛是你与客户商定的数字,并没有通用标准。
| 动作 | 颜色 | 初始等级 | 升级标准(示例) |
|---|---|---|---|
| 读取订单历史、查询物流状态 | 绿 | 自动执行,留存日志 | 无需升级 |
| 给工单打标签并分派 | 黄 | 自动执行,每天由人抽检 | 连续数周标签纠正率较低 |
| 给客户发送邮件回复 | 黄 | 只写草稿,由人点击发送 | 内容被修改的草稿占比持续下降 |
| 办理退款 | 红 | 只提议,由人批准 | 仅对小额退款升级,且须客户方策略负责人签字 |
最后一行让执行与决策权的区别变得具体。智能体也许准确到可以自己办理退款,但谁能退多少钱是客户的策略,这个门槛必须由客户方的人来定,而不是你。
策略应写进配置文件,可读、可审查,而不是散落在各个提示词里:
actions:
lookup_order: { tier: green, mode: auto }
tag_ticket: { tier: yellow, mode: auto, sample_review: daily }
send_reply: { tier: yellow, mode: draft_only }
issue_refund: { tier: red, mode: propose_only, owner: "客服负责人" }
escalate_when:
- confidence_below_threshold
- customer_mentions_legal_action
promotion_review: weekly # 复盘干预次数、纠正次数和事故
owner 字段是很多人会忽略的细节。每个红色动作都需要一位具名负责人对升级决定负责,这正是交接的起点。
动手:按顺序走五步
按 Anthropic 的建议,先在带护栏的沙箱里起步,并设计好检查点,让智能体在这些地方停下来征求反馈。然后像上表那样给每个动作标色,拿不准的一律先标红。
接下来,在上生产环境之前先把监控搭好:统计每次会话的人工干预次数、被纠正的输出和上报次数。这些数据取代了“我看着挺好”这句话。
每周和客户一起复盘这些数字,只有当前等级稳定时,才把一组动作提升一级。最后,当大多数动作已是绿色或黄色,就把这场复盘会的主持工作交给客户方的人。此时,他们承担的正是 A4 所描述的治理职责。
交接从第一天开始
Tandem 的建议听上去有些反常,却是对的:在你意识到需要交接之前就开始交接。最后一周才写的静态文档很快就会过时。因此,应引导读者去看系统的实时状态,比如策略配置文件、干预情况看板和升级记录,而不是把它们复制进一份 Word 文档。
PostHog 给“完成”定了清楚的标准:只有客户团队里一位局外人无需任何人事先讲解就能上手,交接成果才算完成。下一步行动必须具体、有先后顺序,并落实到具名的人。“运营团队会盯着”不算下一步行动。
运行手册应按症状组织,而不是按架构组织。半夜值班的人是从“智能体发出的邮件语气不对”或“上报率突然飙升”开始排查的,绝不会从服务架构图开始。AI Codex 建议做一个测试:把运行手册交给一位没参与构建系统的人,请他大声读出自己会如何处理某个症状。
常见错误
第一个错误是按时间表升级(“一个月后就让它自己跑”),而不是看数据。第二个错误是把能力和决策权混为一谈:一个 99% 时候都正确的智能体,并不因此就有资格制定退款策略。
第三个错误是没有部署后监控,升级评审会就变成了印象之争。最后一个错误是把交接拖到最后一周,那时唯一明白动作 X 为何仍是红色的人,正准备离开。
如果你在申请 FDE 岗位,就把这项技能用数字而非形容词写进简历。例如:为某智能体设计自主化路线图,把每次会话的干预次数从 X 降到 Y,并把复盘流程移交给客户的运营团队。
本周练习
挑一个你在运行的自动化流程:一个智能体、一个 cron 任务或一个内部机器人。仿照上面的 YAML 示例写一份策略文件,给每个红色动作指定负责人,再为恰好一个症状写一条运行手册条目。把它交给一位从未接触过这个系统的同事,安静地听他大声读出来。
他迟疑的地方,就是你的系统仍然依赖你的地方。好的 FDE 会在离开项目的最后一天之前,让这些地方消失。
这篇文章对你有帮助吗?
感谢你的反馈!
7 个信源
- Measuring AI agent autonomy in practice (Anthropic) · 2026-02-18
- Graduated autonomy for AI agents: the traffic-light model · 2026-08-25
- From Autonomous Cars to Autonomous Agents: The Five Levels of AI Agent Autonomy · 2026-09-28
- Building effective agents · 2024-12-19
- Working with customers - Handbook (PostHog)
- The handoff that survives your departure (AI Codex)
- FDE handoffs: keeping an engagement alive when the builder changes | Tandem · 2026-08-28