客户想要 AI 员工,你能交付的是 Agent
高管心中的“全能员工”其实是仍属假设的 AGI,FDE 要把期待变成设计,又不浇灭热情。
要点速览
- 客户描述的“什么都能做的 AI 员工”其实就是 AGI。按通行定义,AGI 仍是一种假设,不是能买到的产品。
- Agent 能做什么,取决于工程团队接入了哪些工具、这些工具描述得是否清楚。模型只负责提出调用,执行的是应用程序。
- 从最简单的方案起步,通常是固定工作流,之后再逐步增加自主性,因为自主性意味着更高的成本和不断累积的错误。
1965 年,Herbert Simon 预言,二十年内机器将能完成人类能做的任何工作。六十多年过去,这个承诺仍在,只是换了说法。如今它叫“AI 员工”。
如果你是前线部署工程师(FDE),迟早会碰到这样的场景:客户高管看了几个演示,读了几条新闻,然后问:什么时候能有一个自己搞定一切的 AI 员工?这不是个愚蠢的问题。
但它把两件截然不同的事揉在了一起。如果第一次开会时不把它们分开,项目就会被拿来对照一个当今任何系统都达不到的标准。
客户设想的是 AGI,你能交付的是 Agent。两者之间的差距,不是等来一个更聪明的模型就能弥合的。弥合它要靠设计,而这份设计由 FDE 和客户一起绘制。
“什么都能做”早有名字,而且仍是假设
Wikipedia 把通用人工智能(AGI)定义为一种假设中的人工智能,几乎在所有认知任务上都达到或超过人类水平。关键词是“假设”。一个自己搞定一切的 AI 员工,几乎逐字符合这一定义,这意味着它还不是你能买到或部署的东西。
如今在企业里运行的是窄 AI,也叫弱 AI:它能解决某个具体问题,但不具备通用认知能力。这正是你将部署的系统与高管脑中画面之间的差距。
也不必陷入 AGI 何时到来的争论。Simon 的预言落空了。Geoffrey Hinton 曾说 AGI“还要 30 到 50 年甚至更久”,后来又亲自大幅修正了这个数字。顶尖专家之间分歧如此之大,争论时间表只会让会议跑偏。
该说的话是:那个东西还不存在,这是我们这个季度能做出来的。
你能交付的是 Agent,而 Agent 是用部件组装的
DAIR.AI 的 Prompt Engineering Guide 把 Agent 定义为基于大模型、设计用于自主行动并解决复杂任务的系统。Agent 存在的理由很实际:当任务需要多个步骤、规划和推理时,单靠大模型力有不逮。
于是要给它加上额外能力:规划与自我审查、调用工具,以及记忆。
所以,“AI 员工”并不是一个通用的头脑,而是工程师拼装起来的组合体,每个部件都有自己的局限。
Anthropic 的 tool use 文档说明了这些局限有多具体。Claude 自己什么都不执行。它返回一个结构化调用,再由你的应用程序执行(客户端工具),或由 Anthropic 执行(服务端工具)。
而且,只有当请求与工具中描述的能力相符、上下文里又没有现成答案时,模型才会调用该工具。
这句话是整场对话的锚点。它把问题从“AI 够不够聪明?”转向“要把它接入哪些系统、给什么权限?”,而后一个问题是客户高管真正能拍板的。
从客户的说法到 FDE 该问回去的问题
下表把常见期望与系统的实际运作方式对照起来。最后一列是反问,用来把期望转化为范围。
| 客户说 | 系统实际怎么做 | FDE 该问回去 |
|---|---|---|
| “它会知道该做什么” | 只有当请求与已描述的能力相符时才调用工具 | “你最先希望它做的三件具体事情是什么?” |
| “它会自己进我们的系统” | 模型只提出调用,由我们的应用程序执行 | “哪些系统?读权限还是写权限?谁来负责?” |
| “信息不全,它会自己处理” | 缺少必填参数时,模型可能推断出一个看似合理的值 | “哪些字段必须每次都向用户确认?” |
| “让它自己决定就行” | 自主性越高,成本越高,错误也越容易累积 | “哪些步骤必须有人工审批?” |
| “直接做完整版” | 从最简单的方案起步,只在需要时增加复杂度 | “流程中哪些环节已经固定,可以直接写成代码?” |
第三列要靠你自己补上:读懂技术文档,把它转化为帮助客户做决定的问题。这正是 FDE 的核心技能。
实例:退款 Agent
设想一家零售连锁企业想要一个“AI 客服员工”,同时处理退款。你给 Agent 接入三个工具:查询订单、核对退货政策、创建退款。一位客户写道:“我想退上周买的鞋”,但没给订单号。
Anthropic 的文档提醒,缺少必填参数时,模型可能推断出一个看似合理的值。在这个例子里,“合理”可能是另一位客户最近的一笔鞋类订单。人类员工会开口问。换成 Agent,别指望运气:要通过设计让它必须问。
再说累积错误,Anthropic 明确把它列为自主性的代价。以下是示意性计算,并非实测数据:如果 Agent 每一步的正确率是 95%,那么 10 个顺序步骤的链条完全正确的概率只有约 60%(0.95 的 10 次方 ≈ 0.599)。
这个数字足以让高管明白,为什么“让它自己决定”是个有风险的决定。
出路在于 Anthropic 对两类系统的区分。工作流通过预先定义的代码路径编排大模型和工具;Agent 则让大模型自己主导流程。就退款而言,查询订单和核对政策是固定步骤,写成工作流是合理的。
只有理解客户消息、起草回复这两件事,才需要模型的灵活性。
按 Anthropic 的说法,智能体系统往往以延迟和成本换取更好的任务表现。有些场景值得这样取舍,但并非全部。在这个例子里,退款应当需要人工审批,直到沙箱测试的数据证明可以放开。
这也正是 Anthropic 的建议:在隔离环境中充分测试,并设置护栏。
说“还不行”,又不让客户泄气
最常见的错误是直接反驳:“你要的是 AGI,没人做得出来。”这话没错,但也浇灭了让你走进会议室的那份热情。更好的做法是先认可目的地,再分三步画出路线:
- 点明客户设想的是什么,并坦诚说明它仍是一种假设。
- 和客户一起列出具体任务,挑一个流程清晰的,先做成工作流。
- 约定检查点,到时由数据决定是否放开更多自主性。
Anthropic 的建议是尽可能找到最简单的方案,只在确有必要时增加复杂度。这就是带进会议室的说法。它不是拒绝,而是一份有先后顺序的计划,决策者可以批准、跟踪和衡量。
值得练的技能:把期望翻译成范围
许多开发者,包括不少越南开发者,写代码很强,却很少练习把模糊的期望变成具体的范围,而这是 FDE 每天都要用的技能。练习用业务高管一听就懂的话,解释 AGI、窄 AI 和 Agent。
看职位描述时,留意“translate business requirements”“scope with stakeholders”“customer-facing”这类说法。简历上别只写“用大模型构建了 Agent”,要写清你在哪里选择了工作流而不是 Agent,在哪里设置了审批步骤,以及为什么。
一个小型个人项目就够了:一个带几个工具的 Agent,外加一页文档,记录缺失参数的情况以及你如何迫使模型开口询问。这页文档展示的是你如何思考系统的边界,一个“什么都能做”的演示做不到这一点。
Simon 的承诺之所以落空,是因为它押注机器能自己理解人想要什么。FDE 的工作不是下这个赌注,而是和客户坐下来,写下他们需要完成的每一项任务,然后给 Agent 恰好够用的工具去完成每一项。
这篇文章对你有帮助吗?
感谢你的反馈!