FDE Times 数据在招 FDE 职位 924▲33 近 7 天在招职位数的变化(同口径比较):不计入本周新开始追踪的公司的职位近 7 天新增 80在招公司 196支持远程 25%美国薪资中位数 $200k招聘最多 Databricks 107
ENVI

前线部署工程师(FDE)的专业媒体

技能指南 · 指南

客户要 Agent 之前,先问清谁决定下一步

运行前能画出所有分支的就是工作流;步骤无法预先列出时,Agent 才值得它的成本。

分享微博

要点速览

  • 工作流沿预定义代码路径运行,Agent 则由 LLM 掌舵。选哪一种,看问题的可预测程度。
  • 从最简单的方案开始。一次带检索和示例的 LLM 调用往往就够了。
  • Agent 用延迟和成本换质量。多智能体消耗的 token 约为普通对话的 15 倍,只适合高价值、可并行的工作。
包含三个问题的决策树。如果一次 LLM 调用就够,就到此为止。如果不够,且分支可以提前画出,就用工作流(高亮显示)。如果画不出:任务可并行且价值高时用多智能体,否则用设有步数上限的 Agent。
从最简单的一级开始,只有当下一级在真实数据上解决不了问题时才往上升。这一分类依据文中引用的 Anthropic 和 LangGraph 的定义。

与客户的第一次会议,常常以一个信心满满的需求开场:“我们想要一个 Agent 来处理客户邮件。”他们看过演示,读过新闻,在他们眼里,“Agent”就是最先进的东西。

前线部署工程师(FDE)的工作不是点头附和,而是找到一种设计模式,在客户能接受的延迟、成本和可靠性下解决问题。这一步选错了,三个月后你就会在调试一个谁也解释不清的系统,琢磨它为什么今天的回答和昨天不一样。

本文讲的技能不算大,但几乎每周都用得上:读懂客户的问题,判断它需要的是工作流、Agent,还是比两者都更简单的东西。

下一步由谁决定?

Anthropic 给过一个简洁的定义。工作流是通过预定义代码路径编排 LLM 和工具的系统。Agent 是由 LLM 自主决定流程和工具使用的系统,也就是说,任务怎么完成由模型掌控。

LangGraph 的文档划的是同一条线:工作流有预先确定的路径,按设计好的顺序运行;Agent 适用于问题和解法都无法事先预测的场景。

所以分类的问题很简单:**下一步由谁决定,你的代码还是模型?**如果在任何东西运行之前,你就能坐下来画出分支图,那就是工作流。如果你列不出步骤,因为它们取决于模型在过程中发现了什么,那才是 Agent 的用武之地。

复杂度阶梯

Anthropic 的核心建议是:找到尽可能简单的方案,只在确实需要时才增加复杂度。它还明确指出,对许多应用来说,优化一次 LLM 调用,再配上检索和上下文示例,通常就够了。

原因在于取舍。Agent 类系统通常以更高的延迟和成本换取更好的质量;工作流则为定义清晰的任务提供可预测性和一致性。对企业客户而言,“一致”往往是他们最需要的,只是他们不这么说。

阶梯的最顶层是多智能体,即多个 Agent 并行运行。Anthropic 称,其多智能体系统消耗的 token 约为普通对话的 15 倍。在它看来,这类系统适合可以很好并行的高价值工作,而大多数编码任务比研究任务更难并行。

一个完整的例子

设想一家物流公司想自动回复客户邮件。你要来 50 封真实邮件,手工分类。假设结果是:大多数在问订单状态,一部分是 FAQ 里有答案的政策问题,还有一小部分是复杂投诉。

前两类的步骤可以马上写在纸上:识别意图,提取订单号,查询数据库,起草回复。这里没有意外,所以这是工作流:

# 工作流:路径由代码决定
def handle_email(email):
    intent = classify(email)  # 1 次 LLM 调用,只返回固定标签
    if intent == "order_status":
        order = db.get_order(extract_order_id(email))
        return draft_reply(email, context=order)
    if intent == "policy":
        return draft_reply(email, context=search_faq(email))
    if intent == "complaint":
        return investigate_complaint(email)  # 唯一使用 Agent 的分支
    return escalate_to_human(email)

客户心目中的 Agent 版本,通常是一个配齐全套工具的 while True 循环,其中包括 issue_refund。这样一来,要不要退款就由循环里的模型决定,没有任何一行代码能提前拦住它。

在工作流版本里,每封邮件经过的 LLM 调用次数是固定的,所以你能估算成本、测量延迟,出了问题也能立刻知道是哪个分支错了。

Agent 并没有被扔掉,而是被收窄了。如果投诉类确实需要按不可预测的顺序查多个来源,就只在这一个分支上放 Agent,并限制工具集、设定步数上限:

# 只在投诉分支使用 Agent:路径由模型决定,但有护栏
COMPLAINT_TOOLS = [get_order, search_faq]  # 只读,不含 issue_refund
MAX_STEPS = 6

def investigate_complaint(email):
    messages = [COMPLAINT_PROMPT, email]
    for _ in range(MAX_STEPS):
        step = llm(messages, tools=COMPLAINT_TOOLS)
        if step.is_final:
            return draft_for_human_review(email, findings=step.text)
        messages.append(run_tool(step))
    return escalate_to_human(email)  # 步数用完:转交人工

这是一个能在客户面前讲得通的混合设计:可预测的部分交给代码,只有不可预测的部分交给模型。即便在这一部分,模型也只负责读取和提出建议,退款决定仍然由人来做。

自己动手的五个步骤

第一步:收集真实样本,而不是听客户描述。30 到 50 个真实案例就能告诉你问题有多可预测,这是第一次会议永远看不出来的。

第二步:先试最低一级。写一个好的提示词,加上检索和几个示例,然后在样本集上跑一遍。结果够好,就到此为止。

第三步:为第一级没解决的案例画分支图。凡是能画出来的分支,都做成工作流。

第四步:只对剩下的部分使用 Agent,也就是确实列不出步骤的那部分。给循环次数设上限,只放必要的工具,就像上面的 investigate_complaint 函数那样。

第五步:只有当任务能拆成可并行运行的独立部分,且结果的价值足以承担额外的 token 时,才考虑多智能体。

常见错误

最常见的错误是因为演示效果好就选 Agent。演示只跑几个简单案例;生产环境要跑成千上万个,而客户需要每次都得到同样的结果。

第二个错误是把工作拆给多个 Agent,却不共享上下文。Devin 背后的公司 Cognition 建议共享上下文,并共享完整的 Agent 轨迹,而不只是单条消息。

它还指出,每个动作都隐含着一个决策;当并行的 Agent 做出相互冲突的决策时,结果就会很差。

第三个错误是不做测量。如果你不知道每个请求要花多少次调用、要等多久,就没法向客户解释为什么该再往上爬一级,或者为什么不该。

把这项技能变成求职优势

如果你瞄准的岗位描述里提到了 Agent,就要准备好解释你为什么选择这种架构,而不只是说你做过 Agent。你如何权衡取舍,才是值得谈的东西。

所以简历上别只写“构建了 AI Agent”。要描述决策过程:你试过哪几级,测量了什么,为什么停在工作流,或者为什么升级到了 Agent。

像“将查询从 Agent 循环迁移到固定工作流,以获得一致的结果”这样一句话,说明你理解其中的取舍。这也正是你坐在客户身边、每周都要做的判断。

练习:让 Agent 告诉你哪些部分该做成工作流

拿一个现成的 Agent 循环,或者针对上面的邮件问题写一个类似 investigate_complaint 的循环。用 20 个不同的输入跑 20 次,记录模型每次调用工具的顺序。

然后把这些序列并排对比。几乎一模一样重复出现的序列,可以考虑改写成工作流分支;每次都不同的序列,才是值得留给 Agent 的部分。同时记录每次运行的平均步数,以确定 MAX_STEPS 该设多少。

下次客户再说“我们想要一个 Agent”,先向他们要最近五十封邮件。很可能,这些邮件就会给出答案。

这篇文章对你有帮助吗?

4 个信源
路线图上的下一篇 · 阶段 3: AI 应用客户从不给你指标,只给你抱怨FDE 要把“机器人回答很差”变成双方都签字认可的通过/不通过标准和评测集。