# Agent 为何能在一个工单上空转一整夜却不报错

> 四层限制加上预先设计好的人工交接点，才能防止 Agent 循环无休止空转、烧掉客户的钱。

原文: https://fdetimes.net/zh/guides/agent-stop-conditions-human-handoff/

周一早上，客户办公室里，上周部署的退款 Agent 在一个工单上耗了整整一夜：查询订单，读取结果，再查询订单，再读取。没有抛出任何错误，只留下一份几千行的日志和一张暴涨的 API 账单。

这个 Agent 并没有给出错误答案，它只是不知道什么时候该停。对前线部署工程师（FDE）来说，这类事故很难向客户解释，因为找不到可以指给对方看的报错，只有一个一直在运行的系统。

好消息是，预防这类问题并不神秘。做法分两部分：给循环设上限，并设计好 Agent 把工作交给人工的时机。

## Agent 为什么不知道何时停下？

Hugging Face Agents Course 把 Agent 循环描述为一个 while 循环：思考、行动、观察的循环一直持续，直到目标达成。最后一个动作是把答案发回给用户，循环到此结束。

问题出在“直到”二字。如果模型始终不认为自己达成了目标，比如数据缺失、工具返回含糊的错误，或者提示词自相矛盾，那么自然的停止条件就永远不会满足。Vercel AI SDK 的文档说得很直白：没有步数上限，Agent 可能无限运行，或者产生高昂费用。

因此，Anthropic 在构建 Agent 的指南中建议加入停止条件，例如最大迭代次数，以保持可控。阈值设在哪里，是一个真实的权衡。Metric Coders 的一篇教程总结道：停得太早，结果不完整；停得太晚，模型会絮叨、重复甚至产生幻觉。

## 四道防线，各自拦截不同的故障

单靠一种限制是不够的，因为每种限制拦截的故障类型不同。AI SDK 允许组合多个停止条件，任意一个满足循环即结束。无论用哪个框架，都应该这样思考。

| 防线 | 拦截什么 | 需要了解的弱点 |
|---|---|---|
| 最大步数 | 无限循环、逻辑死循环 | 设得太低会截断长任务 |
| Token 预算 | 步数不多但成本暴涨 | 只限制输出 Token 可能把句子截成两半 |
| 时间期限 | 工具响应慢、用户在等待 | 无法反映结果质量 |
| 重复检测 | 用相同参数反复调用同一工具 | 需要自己定义什么算“相同” |

步数方面，AI SDK 默认让 ToolLoopAgent 在 20 步后停止。这是一个合理的起点，而不是什么神奇数字。Token 方面，Metric Coders 的文章指出，限制生成的 Token 数量简单易行，但容易截断句子，建议组合多种方法。

停止序列（stop sequence）会在模型输出预定义字符串时立即停止生成，适合结构化输出。但如果模型没有准确输出该字符串，这种方式就很脆弱。

在下面的示例中，除了常见的步数和 Token 两项限制，重复检测和时间期限都直接手写在循环里。

## 停止不等于放弃：把工作交给人工

Anthropic 提到，Agent 会在检查点或遇到阻碍时暂停，等待人工反馈。

agentpatterns.ai 网站把这一点具体化为三个位置。第一，置信度低时。第二，循环消耗的 Token、费用或工具调用达到预算中可配置的比例时。第三，在任何循环无法凭自身状态撤销的操作之前。

对企业客户而言，第三点最令人担心。查错了订单可以重查一次；退错了款，或者把邮件发给了错误的客户，就无法挽回。

**要点:** 步数上限保护的是客户的账单；不可逆操作前的审批点保护的是客户的客户。

## 示例：电商平台的退款 Agent

假设要构建一个处理退款工单的 Agent，它有四个工具：查询订单、查询政策、发起退款和发送邮件。下面的阈值是用于演示的假设数字：最多 20 步，预算 40,000 个 Token，预算用到 80% 时转交客服，期限为 90 秒。

```python
import time

MAX_STEPS = 20
TOKEN_BUDGET = 40_000
SOFT_FRACTION = 0.8          # 预算用到 80% 时停止并请求人工介入
DEADLINE_S = 90
MAX_REPEAT = 3               # 同一工具 + 相同参数调用超过 3 次 = 陷入循环
IRREVERSIBLE = {"issue_refund", "send_email"}

def run(task):
    s = {"steps": 0, "tokens": 0, "history": [], "calls": {}}
    start = time.monotonic()
    while True:
        if s["steps"] >= MAX_STEPS:
            return handoff(task, s, "max_steps")
        if s["tokens"] >= TOKEN_BUDGET * SOFT_FRACTION:
            return handoff(task, s, "budget")
        if time.monotonic() - start > DEADLINE_S:
            return handoff(task, s, "timeout")

        step = llm_next_step(task, s["history"])
        s["steps"] += 1
        s["tokens"] += step.usage.total_tokens

        if step.is_final:
            return {"status": "done", "answer": step.answer, "steps": s["steps"]}

        key = (step.tool, str(sorted(step.args.items())))
        s["calls"][key] = s["calls"].get(key, 0) + 1
        if s["calls"][key] > MAX_REPEAT:
            return handoff(task, s, "repeat_loop", pending=step)

        if step.tool in IRREVERSIBLE:
            return handoff(task, s, "needs_approval", pending=step)

        obs = call_tool(step.tool, step.args)
        s["history"].append((step, obs))

def handoff(task, s, reason, pending=None):
    return {
        "status": "needs_human",
        "reason": reason,
        "steps": s["steps"],
        "tokens": s["tokens"],
        "summary": summarize(s["history"]),
        "pending_action": pending,
    }
```

回到开头的场景。Agent 查询订单，订单 API 返回超时，于是它用同一个订单 ID 再查一次。到第四次调用时，重复计数器触发，返回 `repeat_loop` 和一份历史摘要，而不是空转一整夜。

在另一个工单上，Agent 查询订单、核对政策，判断客户符合条件，准备调用 `issue_refund`。循环以 `needs_approval` 为原因停止，并附上待审批的操作。客服只需核对后点击批准或拒绝，不必从头读起。

注意，`handoff` 函数做的不只是报告“失败”。它返回原因、步数、Token 数和摘要，接手的人几秒钟内就能继续处理。

每种停止原因都应对应一项具体的人工任务。遇到 `repeat_loop`，接手者检查工具出了什么问题，必要时手动处理工单。遇到 `budget` 或 `timeout`，客服阅读摘要，决定让 Agent 继续还是自己完成。`max_steps` 则归工程师处理：先找出循环，再考虑是否调高上限。

## 在自己的项目中落地

先列出所有工具，分成三组：只读、可撤销的写操作、不可撤销的写操作。最后一组必须始终经过审批点，至少在部署初期如此。

接着，用一批真实任务运行 Agent，记录成功运行的步数和 Token 数。在常见范围之上留出合理余量来设定上限，而不是凭感觉猜。然后和客户约定：Agent 停止后由谁接手、通过什么渠道、需要看到哪些信息。

最后，把“停止原因”变成一项指标。如果修改提示词后因 `max_steps` 停止的运行占比上升，就能立刻知道哪里出了问题。

## 常见错误

第一个要避免的错误，是一看到 Agent 被截断就调高上限。LangGraph 关于 GRAPH_RECURSION_LIMIT 错误的文档指出，如果预期中图不会迭代很多次却仍然触及上限，很可能存在循环。可以调高 `recursionLimit`，但应先检查循环逻辑中是否有死循环。

第二个错误是只依赖输出 Token 上限，导致用户收到说到一半就断掉的回答。第三个错误是悄无声息地停止：循环结束了，用户却什么都没收到，这违背了循环应以一个答案收尾的原则。

第四个错误更难察觉：转交客服时不附上下文。接手者只能打开日志从头再读一遍。不难理解，他们随后会把 Agent 当成负担，而不是帮手。

## 把这项技能变成面试优势

阅读 FDE 岗位描述时，留意是否提到 human-in-the-loop 或 guardrails。如果出现，就是提起这项技能的切入点。简历上避免写“构建过 AI Agent”这种泛泛之词。

要明确写出自己设计了停止条件和人工交接流程，并附上可衡量的数字，例如需要转交人工的任务占比。

本周练习：拿一个自己写过的 Agent，故意让某个工具始终返回错误，然后运行。如果 Agent 在几次尝试后自行停止，并返回一份十秒内就能看懂的交接信息，下次面试就有了一个具体的故事可讲。

**本周动手试试:**

- 打开正在开发的 Agent，列出所有工具，标出不可撤销的那些，并在这些工具前直接加上人工审批点。
- 在循环中加入四个计数器：步数、Token 数、已用秒数，以及用相同参数重复调用同一工具的次数。每次运行都记录停止原因。
- 重新运行 20 个真实任务，统计有多少因目标达成而停止、多少因触及上限而停止，再据此调整阈值。

## 信源

- [Building effective agents (Anthropic)](https://www.anthropic.com/engineering/building-effective-agents)

- [Understanding AI Agents through the Thought-Action-Observation Cycle (Hugging Face Agents Course)](https://huggingface.co/learn/agents-course/en/unit1/agent-steps-and-structure)

- [Defining Stopping Criteria in Large Language Models: A Practical Guide (Metric Coders)](https://www.metriccoders.com/post/defining-stopping-criteria-in-large-language-models-a-practical-guide)

- [Loop Control (AI SDK)](https://ai-sdk.dev/docs/agents/loop-control)

- [GRAPH_RECURSION_LIMIT (LangGraph docs)](https://docs.langchain.com/oss/javascript/langgraph/errors/GRAPH_RECURSION_LIMIT)

- [Human-in-the-Loop Checkpoints as Loop Control (agentpatterns.ai)](https://agentpatterns.ai/loop-engineering/human-in-the-loop-checkpoints/)
