客户要 Agent 之前,先问清谁决定下一步
运行前能画出所有分支的就是工作流;步骤无法预先列出时,Agent 才值得它的成本。
要点速览
- 工作流沿预定义代码路径运行,Agent 则由 LLM 掌舵。选哪一种,看问题的可预测程度。
- 从最简单的方案开始。一次带检索和示例的 LLM 调用往往就够了。
- Agent 用延迟和成本换质量。多智能体消耗的 token 约为普通对话的 15 倍,只适合高价值、可并行的工作。
与客户的第一次会议,常常以一个信心满满的需求开场:“我们想要一个 Agent 来处理客户邮件。”他们看过演示,读过新闻,在他们眼里,“Agent”就是最先进的东西。
前线部署工程师(FDE)的工作不是点头附和,而是找到一种设计模式,在客户能接受的延迟、成本和可靠性下解决问题。这一步选错了,三个月后你就会在调试一个谁也解释不清的系统,琢磨它为什么今天的回答和昨天不一样。
本文讲的技能不算大,但几乎每周都用得上:读懂客户的问题,判断它需要的是工作流、Agent,还是比两者都更简单的东西。
下一步由谁决定?
Anthropic 给过一个简洁的定义。工作流是通过预定义代码路径编排 LLM 和工具的系统。Agent 是由 LLM 自主决定流程和工具使用的系统,也就是说,任务怎么完成由模型掌控。
LangGraph 的文档划的是同一条线:工作流有预先确定的路径,按设计好的顺序运行;Agent 适用于问题和解法都无法事先预测的场景。
所以分类的问题很简单:**下一步由谁决定,你的代码还是模型?**如果在任何东西运行之前,你就能坐下来画出分支图,那就是工作流。如果你列不出步骤,因为它们取决于模型在过程中发现了什么,那才是 Agent 的用武之地。
复杂度阶梯
Anthropic 的核心建议是:找到尽可能简单的方案,只在确实需要时才增加复杂度。它还明确指出,对许多应用来说,优化一次 LLM 调用,再配上检索和上下文示例,通常就够了。
原因在于取舍。Agent 类系统通常以更高的延迟和成本换取更好的质量;工作流则为定义清晰的任务提供可预测性和一致性。对企业客户而言,“一致”往往是他们最需要的,只是他们不这么说。
阶梯的最顶层是多智能体,即多个 Agent 并行运行。Anthropic 称,其多智能体系统消耗的 token 约为普通对话的 15 倍。在它看来,这类系统适合可以很好并行的高价值工作,而大多数编码任务比研究任务更难并行。
一个完整的例子
设想一家物流公司想自动回复客户邮件。你要来 50 封真实邮件,手工分类。假设结果是:大多数在问订单状态,一部分是 FAQ 里有答案的政策问题,还有一小部分是复杂投诉。
前两类的步骤可以马上写在纸上:识别意图,提取订单号,查询数据库,起草回复。这里没有意外,所以这是工作流:
# 工作流:路径由代码决定
def handle_email(email):
intent = classify(email) # 1 次 LLM 调用,只返回固定标签
if intent == "order_status":
order = db.get_order(extract_order_id(email))
return draft_reply(email, context=order)
if intent == "policy":
return draft_reply(email, context=search_faq(email))
if intent == "complaint":
return investigate_complaint(email) # 唯一使用 Agent 的分支
return escalate_to_human(email)
客户心目中的 Agent 版本,通常是一个配齐全套工具的 while True 循环,其中包括 issue_refund。这样一来,要不要退款就由循环里的模型决定,没有任何一行代码能提前拦住它。
在工作流版本里,每封邮件经过的 LLM 调用次数是固定的,所以你能估算成本、测量延迟,出了问题也能立刻知道是哪个分支错了。
Agent 并没有被扔掉,而是被收窄了。如果投诉类确实需要按不可预测的顺序查多个来源,就只在这一个分支上放 Agent,并限制工具集、设定步数上限:
# 只在投诉分支使用 Agent:路径由模型决定,但有护栏
COMPLAINT_TOOLS = [get_order, search_faq] # 只读,不含 issue_refund
MAX_STEPS = 6
def investigate_complaint(email):
messages = [COMPLAINT_PROMPT, email]
for _ in range(MAX_STEPS):
step = llm(messages, tools=COMPLAINT_TOOLS)
if step.is_final:
return draft_for_human_review(email, findings=step.text)
messages.append(run_tool(step))
return escalate_to_human(email) # 步数用完:转交人工
这是一个能在客户面前讲得通的混合设计:可预测的部分交给代码,只有不可预测的部分交给模型。即便在这一部分,模型也只负责读取和提出建议,退款决定仍然由人来做。
自己动手的五个步骤
第一步:收集真实样本,而不是听客户描述。30 到 50 个真实案例就能告诉你问题有多可预测,这是第一次会议永远看不出来的。
第二步:先试最低一级。写一个好的提示词,加上检索和几个示例,然后在样本集上跑一遍。结果够好,就到此为止。
第三步:为第一级没解决的案例画分支图。凡是能画出来的分支,都做成工作流。
第四步:只对剩下的部分使用 Agent,也就是确实列不出步骤的那部分。给循环次数设上限,只放必要的工具,就像上面的 investigate_complaint 函数那样。
第五步:只有当任务能拆成可并行运行的独立部分,且结果的价值足以承担额外的 token 时,才考虑多智能体。
常见错误
最常见的错误是因为演示效果好就选 Agent。演示只跑几个简单案例;生产环境要跑成千上万个,而客户需要每次都得到同样的结果。
第二个错误是把工作拆给多个 Agent,却不共享上下文。Devin 背后的公司 Cognition 建议共享上下文,并共享完整的 Agent 轨迹,而不只是单条消息。
它还指出,每个动作都隐含着一个决策;当并行的 Agent 做出相互冲突的决策时,结果就会很差。
第三个错误是不做测量。如果你不知道每个请求要花多少次调用、要等多久,就没法向客户解释为什么该再往上爬一级,或者为什么不该。
把这项技能变成求职优势
如果你瞄准的岗位描述里提到了 Agent,就要准备好解释你为什么选择这种架构,而不只是说你做过 Agent。你如何权衡取舍,才是值得谈的东西。
所以简历上别只写“构建了 AI Agent”。要描述决策过程:你试过哪几级,测量了什么,为什么停在工作流,或者为什么升级到了 Agent。
像“将查询从 Agent 循环迁移到固定工作流,以获得一致的结果”这样一句话,说明你理解其中的取舍。这也正是你坐在客户身边、每周都要做的判断。
练习:让 Agent 告诉你哪些部分该做成工作流
拿一个现成的 Agent 循环,或者针对上面的邮件问题写一个类似 investigate_complaint 的循环。用 20 个不同的输入跑 20 次,记录模型每次调用工具的顺序。
然后把这些序列并排对比。几乎一模一样重复出现的序列,可以考虑改写成工作流分支;每次都不同的序列,才是值得留给 Agent 的部分。同时记录每次运行的平均步数,以确定 MAX_STEPS 该设多少。
下次客户再说“我们想要一个 Agent”,先向他们要最近五十封邮件。很可能,这些邮件就会给出答案。
这篇文章对你有帮助吗?
感谢你的反馈!
4 个信源
- Building effective agents · 2024-12-19
- How we built our multi-agent research system · 2025-06-13
- Don't Build Multi-Agents · 2025-06-12
- Workflows and agents (LangGraph docs)