FDE Times 数据在招 FDE 职位 882▼2 近 7 天在招职位数的变化(同口径比较):不计入本周新开始追踪的公司的职位近 7 天新增 52在招公司 185支持远程 25%美国薪资中位数 $200k招聘最多 Databricks 98
ENVI

前线部署工程师(FDE)的专业媒体

分析

客户想要 AI 员工,你能交付的是 Agent

高管心中的“全能员工”其实是仍属假设的 AGI,FDE 要把期待变成设计,又不浇灭热情。

分享微博

要点速览

  • 客户描述的“什么都能做的 AI 员工”其实就是 AGI。按通行定义,AGI 仍是一种假设,不是能买到的产品。
  • Agent 能做什么,取决于工程团队接入了哪些工具、这些工具描述得是否清楚。模型只负责提出调用,执行的是应用程序。
  • 从最简单的方案起步,通常是固定工作流,之后再逐步增加自主性,因为自主性意味着更高的成本和不断累积的错误。
左右对照的信息图。左侧是一个虚线圆圈,写着“AGI——什么都能做”,下方注明“仍是假设”。一个标着“FDE 绘制蓝图”的箭头指向右侧:右侧的 Agent 以大模型为中心,连接三个部分,分别是规划与自检、工具和记忆。下方注释说明模型只提出调用,由应用程序执行。一条高亮横带写着:Agent 只在你已接入并描述清楚的工具范围内“什么都能做”。图下方是退款 Agent 的四步示例:理解客户请求(由 Agent 灵活处理),查询订单和核对政策(固定工作流),创建退款单(需人工审批,以橙色标出)。
客户想象中“什么都能做的 AI 员工”其实就是 AGI,至今仍是一种假设。FDE 能交付的是由工程师组装的 Agent:其中固定的环节写成工作流,有风险的步骤保留人工审批。

1965 年,Herbert Simon 预言,二十年内机器将能完成人类能做的任何工作。六十多年过去,这个承诺仍在,只是换了说法。如今它叫“AI 员工”。

如果你是前线部署工程师(FDE),迟早会碰到这样的场景:客户高管看了几个演示,读了几条新闻,然后问:什么时候能有一个自己搞定一切的 AI 员工?这不是个愚蠢的问题。

但它把两件截然不同的事揉在了一起。如果第一次开会时不把它们分开,项目就会被拿来对照一个当今任何系统都达不到的标准。

客户设想的是 AGI,你能交付的是 Agent。两者之间的差距,不是等来一个更聪明的模型就能弥合的。弥合它要靠设计,而这份设计由 FDE 和客户一起绘制。

“什么都能做”早有名字,而且仍是假设

Wikipedia 把通用人工智能(AGI)定义为一种假设中的人工智能,几乎在所有认知任务上都达到或超过人类水平。关键词是“假设”。一个自己搞定一切的 AI 员工,几乎逐字符合这一定义,这意味着它还不是你能买到或部署的东西。

如今在企业里运行的是窄 AI,也叫弱 AI:它能解决某个具体问题,但不具备通用认知能力。这正是你将部署的系统与高管脑中画面之间的差距。

也不必陷入 AGI 何时到来的争论。Simon 的预言落空了。Geoffrey Hinton 曾说 AGI“还要 30 到 50 年甚至更久”,后来又亲自大幅修正了这个数字。顶尖专家之间分歧如此之大,争论时间表只会让会议跑偏。

该说的话是:那个东西还不存在,这是我们这个季度能做出来的。

你能交付的是 Agent,而 Agent 是用部件组装的

DAIR.AI 的 Prompt Engineering Guide 把 Agent 定义为基于大模型、设计用于自主行动并解决复杂任务的系统。Agent 存在的理由很实际:当任务需要多个步骤、规划和推理时,单靠大模型力有不逮。

于是要给它加上额外能力:规划与自我审查、调用工具,以及记忆。

所以,“AI 员工”并不是一个通用的头脑,而是工程师拼装起来的组合体,每个部件都有自己的局限。

Anthropic 的 tool use 文档说明了这些局限有多具体。Claude 自己什么都不执行。它返回一个结构化调用,再由你的应用程序执行(客户端工具),或由 Anthropic 执行(服务端工具)。

而且,只有当请求与工具中描述的能力相符、上下文里又没有现成答案时,模型才会调用该工具。

这句话是整场对话的锚点。它把问题从“AI 够不够聪明?”转向“要把它接入哪些系统、给什么权限?”,而后一个问题是客户高管真正能拍板的。

从客户的说法到 FDE 该问回去的问题

下表把常见期望与系统的实际运作方式对照起来。最后一列是反问,用来把期望转化为范围。

客户说 系统实际怎么做 FDE 该问回去
“它会知道该做什么” 只有当请求与已描述的能力相符时才调用工具 “你最先希望它做的三件具体事情是什么?”
“它会自己进我们的系统” 模型只提出调用,由我们的应用程序执行 “哪些系统?读权限还是写权限?谁来负责?”
“信息不全,它会自己处理” 缺少必填参数时,模型可能推断出一个看似合理的值 “哪些字段必须每次都向用户确认?”
“让它自己决定就行” 自主性越高,成本越高,错误也越容易累积 “哪些步骤必须有人工审批?”
“直接做完整版” 从最简单的方案起步,只在需要时增加复杂度 “流程中哪些环节已经固定,可以直接写成代码?”

第三列要靠你自己补上:读懂技术文档,把它转化为帮助客户做决定的问题。这正是 FDE 的核心技能。

实例:退款 Agent

设想一家零售连锁企业想要一个“AI 客服员工”,同时处理退款。你给 Agent 接入三个工具:查询订单、核对退货政策、创建退款。一位客户写道:“我想退上周买的鞋”,但没给订单号。

Anthropic 的文档提醒,缺少必填参数时,模型可能推断出一个看似合理的值。在这个例子里,“合理”可能是另一位客户最近的一笔鞋类订单。人类员工会开口问。换成 Agent,别指望运气:要通过设计让它必须问。

再说累积错误,Anthropic 明确把它列为自主性的代价。以下是示意性计算,并非实测数据:如果 Agent 每一步的正确率是 95%,那么 10 个顺序步骤的链条完全正确的概率只有约 60%(0.95 的 10 次方 ≈ 0.599)。

这个数字足以让高管明白,为什么“让它自己决定”是个有风险的决定。

出路在于 Anthropic 对两类系统的区分。工作流通过预先定义的代码路径编排大模型和工具;Agent 则让大模型自己主导流程。就退款而言,查询订单和核对政策是固定步骤,写成工作流是合理的。

只有理解客户消息、起草回复这两件事,才需要模型的灵活性。

按 Anthropic 的说法,智能体系统往往以延迟和成本换取更好的任务表现。有些场景值得这样取舍,但并非全部。在这个例子里,退款应当需要人工审批,直到沙箱测试的数据证明可以放开。

这也正是 Anthropic 的建议:在隔离环境中充分测试,并设置护栏。

说“还不行”,又不让客户泄气

最常见的错误是直接反驳:“你要的是 AGI,没人做得出来。”这话没错,但也浇灭了让你走进会议室的那份热情。更好的做法是先认可目的地,再分三步画出路线:

  1. 点明客户设想的是什么,并坦诚说明它仍是一种假设。
  2. 和客户一起列出具体任务,挑一个流程清晰的,先做成工作流。
  3. 约定检查点,到时由数据决定是否放开更多自主性。

Anthropic 的建议是尽可能找到最简单的方案,只在确有必要时增加复杂度。这就是带进会议室的说法。它不是拒绝,而是一份有先后顺序的计划,决策者可以批准、跟踪和衡量。

值得练的技能:把期望翻译成范围

许多开发者,包括不少越南开发者,写代码很强,却很少练习把模糊的期望变成具体的范围,而这是 FDE 每天都要用的技能。练习用业务高管一听就懂的话,解释 AGI、窄 AI 和 Agent。

看职位描述时,留意“translate business requirements”“scope with stakeholders”“customer-facing”这类说法。简历上别只写“用大模型构建了 Agent”,要写清你在哪里选择了工作流而不是 Agent,在哪里设置了审批步骤,以及为什么。

一个小型个人项目就够了:一个带几个工具的 Agent,外加一页文档,记录缺失参数的情况以及你如何迫使模型开口询问。这页文档展示的是你如何思考系统的边界,一个“什么都能做”的演示做不到这一点。

Simon 的承诺之所以落空,是因为它押注机器能自己理解人想要什么。FDE 的工作不是下这个赌注,而是和客户坐下来,写下他们需要完成的每一项任务,然后给 Agent 恰好够用的工具去完成每一项。

这篇文章对你有帮助吗?

4 个信源
路线图上的下一篇 · 阶段 4: 客户工作选数据网格还是数据编织,看客户的组织架构而非技术栈网格、编织和中心化数仓各自预设了一种组织方式,预设选错,再好的技术栈也会停滞。