# 客户想要 AI 员工，你能交付的是 Agent

> 高管心中的“全能员工”其实是仍属假设的 AGI，FDE 要把期待变成设计，又不浇灭热情。

原文: https://fdetimes.net/zh/analysis/agi-vs-agents-client-expectations/

1965 年，Herbert Simon 预言，二十年内机器将能完成人类能做的任何工作。六十多年过去，这个承诺仍在，只是换了说法。如今它叫“AI 员工”。

如果你是前线部署工程师（FDE），迟早会碰到这样的场景：客户高管看了几个演示，读了几条新闻，然后问：什么时候能有一个自己搞定一切的 AI 员工？这不是个愚蠢的问题。

但它把两件截然不同的事揉在了一起。如果第一次开会时不把它们分开，项目就会被拿来对照一个当今任何系统都达不到的标准。

客户设想的是 AGI，你能交付的是 Agent。两者之间的差距，不是等来一个更聪明的模型就能弥合的。弥合它要靠设计，而这份设计由 FDE 和客户一起绘制。

## “什么都能做”早有名字，而且仍是假设

Wikipedia 把通用人工智能（AGI）定义为一种假设中的人工智能，几乎在所有认知任务上都达到或超过人类水平。关键词是“假设”。一个自己搞定一切的 AI 员工，几乎逐字符合这一定义，这意味着它还不是你能买到或部署的东西。

如今在企业里运行的是窄 AI，也叫弱 AI：它能解决某个具体问题，但不具备通用认知能力。这正是你将部署的系统与高管脑中画面之间的差距。

也不必陷入 AGI 何时到来的争论。Simon 的预言落空了。Geoffrey Hinton 曾说 AGI“还要 30 到 50 年甚至更久”，后来又亲自大幅修正了这个数字。顶尖专家之间分歧如此之大，争论时间表只会让会议跑偏。

该说的话是：那个东西还不存在，这是我们这个季度能做出来的。

## 你能交付的是 Agent，而 Agent 是用部件组装的

DAIR.AI 的 Prompt Engineering Guide 把 Agent 定义为基于大模型、设计用于自主行动并解决复杂任务的系统。Agent 存在的理由很实际：当任务需要多个步骤、规划和推理时，单靠大模型力有不逮。

于是要给它加上额外能力：规划与自我审查、调用工具，以及记忆。

所以，“AI 员工”并不是一个通用的头脑，而是工程师拼装起来的组合体，每个部件都有自己的局限。

Anthropic 的 tool use 文档说明了这些局限有多具体。Claude 自己什么都不执行。它返回一个结构化调用，再由你的应用程序执行（客户端工具），或由 Anthropic 执行（服务端工具）。

而且，只有当请求与工具中描述的能力相符、上下文里又没有现成答案时，模型才会调用该工具。

**要点:** Agent 只在你已接入并描述清楚的工具范围内“什么都能做”。

这句话是整场对话的锚点。它把问题从“AI 够不够聪明？”转向“要把它接入哪些系统、给什么权限？”，而后一个问题是客户高管真正能拍板的。

## 从客户的说法到 FDE 该问回去的问题

下表把常见期望与系统的实际运作方式对照起来。最后一列是反问，用来把期望转化为范围。

| 客户说 | 系统实际怎么做 | FDE 该问回去 |
|---|---|---|
| “它会知道该做什么” | 只有当请求与已描述的能力相符时才调用工具 | “你最先希望它做的三件具体事情是什么？” |
| “它会自己进我们的系统” | 模型只提出调用，由我们的应用程序执行 | “哪些系统？读权限还是写权限？谁来负责？” |
| “信息不全，它会自己处理” | 缺少必填参数时，模型可能推断出一个看似合理的值 | “哪些字段必须每次都向用户确认？” |
| “让它自己决定就行” | 自主性越高，成本越高，错误也越容易累积 | “哪些步骤必须有人工审批？” |
| “直接做完整版” | 从最简单的方案起步，只在需要时增加复杂度 | “流程中哪些环节已经固定，可以直接写成代码？” |

第三列要靠你自己补上：读懂技术文档，把它转化为帮助客户做决定的问题。这正是 FDE 的核心技能。

## 实例：退款 Agent

设想一家零售连锁企业想要一个“AI 客服员工”，同时处理退款。你给 Agent 接入三个工具：查询订单、核对退货政策、创建退款。一位客户写道：“我想退上周买的鞋”，但没给订单号。

Anthropic 的文档提醒，缺少必填参数时，模型可能推断出一个看似合理的值。在这个例子里，“合理”可能是另一位客户最近的一笔鞋类订单。人类员工会开口问。换成 Agent，别指望运气：要通过设计让它必须问。

再说累积错误，Anthropic 明确把它列为自主性的代价。以下是示意性计算，并非实测数据：如果 Agent 每一步的正确率是 95%，那么 10 个顺序步骤的链条完全正确的概率只有约 60%（0.95 的 10 次方 ≈ 0.599）。

这个数字足以让高管明白，为什么“让它自己决定”是个有风险的决定。

出路在于 Anthropic 对两类系统的区分。工作流通过预先定义的代码路径编排大模型和工具；Agent 则让大模型自己主导流程。就退款而言，查询订单和核对政策是固定步骤，写成工作流是合理的。

只有理解客户消息、起草回复这两件事，才需要模型的灵活性。

按 Anthropic 的说法，智能体系统往往以延迟和成本换取更好的任务表现。有些场景值得这样取舍，但并非全部。在这个例子里，退款应当需要人工审批，直到沙箱测试的数据证明可以放开。

这也正是 Anthropic 的建议：在隔离环境中充分测试，并设置护栏。

## 说“还不行”，又不让客户泄气

最常见的错误是直接反驳：“你要的是 AGI，没人做得出来。”这话没错，但也浇灭了让你走进会议室的那份热情。更好的做法是先认可目的地，再分三步画出路线：

1. 点明客户设想的是什么，并坦诚说明它仍是一种假设。
2. 和客户一起列出具体任务，挑一个流程清晰的，先做成工作流。
3. 约定检查点，到时由数据决定是否放开更多自主性。

Anthropic 的建议是尽可能找到最简单的方案，只在确有必要时增加复杂度。这就是带进会议室的说法。它不是拒绝，而是一份有先后顺序的计划，决策者可以批准、跟踪和衡量。

## 值得练的技能：把期望翻译成范围

许多开发者，包括不少越南开发者，写代码很强，却很少练习把模糊的期望变成具体的范围，而这是 FDE 每天都要用的技能。练习用业务高管一听就懂的话，解释 AGI、窄 AI 和 Agent。

看职位描述时，留意“translate business requirements”“scope with stakeholders”“customer-facing”这类说法。简历上别只写“用大模型构建了 Agent”，要写清你在哪里选择了工作流而不是 Agent，在哪里设置了审批步骤，以及为什么。

一个小型个人项目就够了：一个带几个工具的 Agent，外加一页文档，记录缺失参数的情况以及你如何迫使模型开口询问。这页文档展示的是你如何思考系统的边界，一个“什么都能做”的演示做不到这一点。

Simon 的承诺之所以落空，是因为它押注机器能自己理解人想要什么。FDE 的工作不是下这个赌注，而是和客户坐下来，写下他们需要完成的每一项任务，然后给 Agent 恰好够用的工具去完成每一项。

**本周动手试试:**

- 为非技术听众写一段约 60 秒的说明，讲清 AGI 和 Agent 的区别，然后讲给一位不做 IT 的朋友听。
- 拿公司里的一个真实流程，比如退款或订单审批，拆分成若干步骤。标出哪些步骤可以写成固定工作流，哪些需要 Agent 来判断，哪些必须人工审批。
- 用 tool use API 构建一个带 2–3 个工具的小型 Agent，故意发送缺少必填参数的请求，记录模型是回头询问还是自行猜测。

## 信源

- [Artificial general intelligence - Wikipedia](https://en.wikipedia.org/wiki/Artificial_general_intelligence)

- [Introduction to AI Agents - Prompt Engineering Guide (DAIR.AI)](https://www.promptingguide.ai/agents/introduction)

- [Tool use with Claude](https://platform.claude.com/docs/en/agents-and-tools/tool-use/overview)

- [Building effective agents (Anthropic)](https://www.anthropic.com/research/building-effective-agents)
