Agent 过账出错,谁来签字负责?
CrossCountry Consulting 要求前线部署工程师(FDE)从第一周起,按风险和重要性为每个流程步骤配上审批或监控。
要点速览
- 在财务领域,客户先问的是“Agent 出错时谁负责”,然后才问 Agent 能做什么。
- 工作流的每一步都有各自的控制级别:自动化、HOTL 或 HITL,取决于该步骤的风险和重要性。
- 一套控制设计需要客户方 5-7 位利益相关方认可,因此控制表和代码同样重要。
设想你在客户现场的第一周。读取发票的 Agent 已经能在样例数据上跑通。这时会计主管提了一个和模型毫无关系的问题:“如果它过了一笔错误的会计分录,谁来签字?”
在财务项目中,这类问题决定 Agent 能否进入生产环境。CrossCountry Consulting 将自己定位为 CFO 办公室(即企业财务职能)的转型合作伙伴。
因此,这家公司的前线部署工程师(FDE)主要与客户的财务和运营团队打交道。其 Forward Deployed Engineer & Agentic Workflow Engineer 岗位的招聘启事提出了一项非常具体的要求:按照每个工作流步骤的风险和重要性,相应地设计 HITL/HOTL 控制点。
这项能力不属于提示词编写或模型选型,而是要懂得在涉及资金和审计的流程中,把人放在哪里。只要在具体的工作流上练习,这项能力是学得会的。
客户先问责任,再问模型
CrossCountry 对 AI 的思路是“流程先于技术”,其服务覆盖从试点到生产环境的全过程,包括多 Agent 编排。这个顺序自有道理。在财务部门,真正的产品是一套审计能够接受的流程,Agent 只是其中一部分。
时间压力同样真实。招聘启事要求 FDE 在项目启动第一周内交付 AI Jumpstart 方案。这类部署规模小、速度快,能立即产生价值,不需要大笔前期投入,也不需要复杂的基础设施改造。
只有一周时间,不可能等审计逐行批准代码。控制设计必须从第一天就到位,而且要清楚到软件行业以外的人也能看懂。
HITL 让流程等待,HOTL 让流程继续
HITL 模式下,工作流完全停下来等待。Agent 提出建议,人点击批准,下一步才会执行。HOTL 模式下,Agent 自行继续运行。人通过仪表盘或告警进行观察,发现异常时有权叫停。
两者的代价不同。HITL 安全,但耗费人力,拖慢流程。如果每一步都设 HITL,等于只是在原来的手工流程上多加了几次点击。HOTL 速度快,但只适用于错误能在造成损害之前被发现并纠正的场景。
所以,每一步都要问两个问题:出错的后果有多严重(重要性)?能否在资金转出或数字进入报表之前纠正?
为应付账款流程的每一步打分
以一个财务团队都熟悉的假设场景为例:处理供应商发票。先把工作流拆成若干步骤,再用上面两个问题逐一打分。
| 步骤 | 出错风险 | 能否撤销? | 控制级别 |
|---|---|---|---|
| Agent 读取发票,提取金额、供应商、日期 | 输入数据错误 | 能,在过账之前 | 自动化,附格式校验 |
| 与采购订单和收货单进行匹配 | 批准了不匹配的发票 | 能 | HOTL:自行运行,发现差异时告警 |
| 建议总账科目 | 科目错误,报表失真 | 能,但结账后代价高昂 | 低于阈值用 HOTL,高于阈值用 HITL |
| 新增供应商或变更银行账号 | 把钱付给诈骗者 | 几乎不能 | 强制 HITL,双人审批 |
| 付款指令 | 钱已经转走 | 不能 | 每一笔都用 HITL |
这张表说明了两点。第一,同一步骤内的控制级别可以随交易金额变化,而这个阈值必须由客户的财务总监来定,而不是由你来定。第二,风险最高的步骤,并不是 AI 最容易出错的地方。
读取发票是模型出错最多的环节,但这里的错误可以纠正。变更银行账号操作简单,可一旦出错,钱就追不回来了。
每个 HITL 控制点还需要两样东西,否则审计不会认可。其一,审核人必须看到足够的证据:原始发票、对应的采购订单行,以及 Agent 给出建议的理由。
其二,一份记录谁批准、何时批准、看到了什么的日志。随着 Agent 数量增加,CrossCountry 使用自有的 CrossCoreAI 平台来编排、监控和治理这些 Agent。无论使用什么工具,都需要事先想清楚要监控哪些内容。
五到七个人共同签一张控制表
据 CrossCountry 介绍,AI 治理需要 5-7 位利益相关方协同。对 FDE 而言,这个数字意味着上面那张表要经过好几位关注点各不相同的人:财务希望流程快,IT 担心系统访问权限,审计需要留痕。
有效的做法是在演示之前先给他们看控制表。“控制级别”一栏最容易引发争论,争论来得越早越好。如果审计希望把匹配步骤从 HOTL 改成 HITL,你只需改表里的一行,而不必重写 Agent。
这个岗位还要求亲临现场。招聘启事注明,视客户项目所处阶段,需在国内出差 20%–40% 的时间。在会计身边看他处理一下午发票,比任何流程文档都更能让你了解真实的风险。
导致设计被打回的三个错误
最常见的错误,是按技术难度而不是业务后果来评估风险。工程师往往把控制放在模型薄弱的地方,却忽略了简单但不可逆的操作,比如付款或修改供应商主数据。
第二个错误,是自己设定重要性阈值。这个阈值属于客户的内部控制政策。你的工作是把它做成可配置参数,然后向对的人要这个数字。
第三个错误,是把 HITL 当成一个“确定”按钮。如果审核人只看到一行摘要,就会条件反射式地全部批准,控制只停留在纸面上。好的 HITL 控制点要给审核人足够的信息,让他有能力说“不”。
如何把这项能力写进简历
CrossCountry 这个岗位可能按 Manager 或 Associate Director 级别招聘。这意味着它是资深岗位,招聘团队想看到的是判断力,而不只是代码。
阅读金融、保险或医疗领域的 FDE 招聘启事时,留意“human-in-the-loop”“governance”“materiality”这类说法。看到它们,就准备好一个控制设计案例带去面试。
简历上不要只写“开发了发票处理 Agent”,而要写清楚:工作流有几步,设了几个控制点,哪些步骤从手工改为 HOTL,客户方由谁签字认可。面试时带上一张类似上文的表格,讲清楚为什么把 HITL 放在付款这一行,而不是读取发票这一行。
在财务部门,Agent 赢得信任,不是因为它从不出错,而是因为所有人都知道,一旦出错,错误会在哪里被拦下。
这篇文章对你有帮助吗?
感谢你的反馈!
4 个信源
- We are the transformation partner for the Office of the CFO
- Technology-Enabled Transformation
- Forward Deployed Engineer & Agentic Workflow Engineer – AI Innovation & Transformation (CrossCountry Consulting, Built In) · 2026-09-01
- Forward Deployed Engineer & Agentic Workflow Engineer (CrossCountry Consulting, Blind)