FDE Times 数据在招 FDE 职位 862▼55 近 7 天在招职位数的变化(同口径比较):不计入本周新开始追踪的公司的职位近 7 天新增 70在招公司 180支持远程 24%美国薪资中位数 $200k招聘最多 Palantir 95
ENVI

前线部署工程师(FDE)的专业媒体

书籍与课程

一门数据 Agent 课程,最长的一课讲的是评测

答案有数据依据也可能出错,DeepLearning.AI 与 Snowflake 的短课教你从 Agent 的计划里找错。

分享微博

要点速览

  • 课程时长 1h59m,难度为 Intermediate,由两位 Snowflake 员工讲授,只要求具备 Python 和面向对象编程基础。
  • 最有价值的部分是用 Goal-Plan-Action 评测过程,因为一个有数据依据的答案仍可能答非所问。
  • 学方法,别学平台:GPA 的相关数据全部由 Snowflake 和框架作者本人发布。
Agent GPA 框架的三角形示意图,三个顶点分别是目标、计划和行动。目标与计划之间的边标注计划质量和工具选择,计划与行动之间的边标注计划遵循度和工具调用;目标与行动之间的边以橙色突出,标注答案正确性、答案相关性和有据性,并写有“从这里开始”。
Agent GPA 框架通过逐对检查目标、计划和行动三个要素来评测整个过程。如果急着交付数据问答 Agent,先从目标-行动的三项指标做起。来源:Snowflake 工程博客关于 Agent GPA 的文章(2025 年 11 月 4 日)。

DeepLearning.AI 的 Building and Evaluating Data Agents 课程中,最长的一课并不教你怎么搭建 Agent。这一课名为“Measure Agent’s GPA”,时长 29 分钟,教的是如何检查 Agent 是否完成了它要做的事。

时间怎么分配,很能说明课程的侧重点。对前线部署工程师(FDE)来说,做一个在演示中能跑通的数据问答 Agent 并不难。难的是向客户解释它为什么在周二给出了错误答案,并证明问题已经修好。

谁来讲,为什么这很重要

这是一门 Intermediate 难度的短课,时长 1h59m,由 DeepLearning.AI 与 Snowflake 合作制作。课程页面显示最近一次更新是 2026 年 8 月 31 日。课程包含 8 个视频、5 节代码课和 1 次计分测验。

两位讲师是 AI Research Lead Anupam Datta 和 Developer Advocate Josh Reini,都在 Snowflake 工作。也就是说,这是一家数据平台厂商在教你基于数据构建 Agent,所以要把方法和产品分开看。

入门门槛不高:具备 Python 和面向对象编程基础即可。对想转做 FDE、但从没搭过评测体系的软件工程师来说,这是个合适的起点。课程页面说明,新学习平台公测期间课程限时免费,结业证书则需要 PRO 订阅。

思路一:规划器与取数模块分开

课程里的 Agent 由多个专职子 Agent 组成,每个负责一个数据源,另有一个子 Agent 负责汇总或绘图。针对每个问题,由规划器决定调用哪些子 Agent、按什么顺序调用。

设想一位零售客户问:“为什么北区第三季度营收下降?”规划器调用 SQL 子 Agent 按区域取数,调用文档子 Agent 读取促销说明,再把所有结果交给汇总子 Agent。每一步都可能出错,也都可以单独度量。

这正是这种拆分在客户现场的价值。Agent 出错时,你能判断是规划器选错了数据源,还是某个子 Agent 写错了查询,而不是对着一大段提示词发呆。

思路二:有据可查的答案也可能是错的

输出评测采用 LLM 评判(LLM-as-a-judge),回答两个问题:答案与问题是否相关?是否基于检索到的数据?但回到上面的例子:假设 SQL 子 Agent 误把筛选条件写成了第二季度,而 Agent 忠实地汇总了取回的数据。

这个答案既相关又有据,却仍然是错的。GPA 框架(目标、计划、行动)正是为了抓住这类错误。它评测整个过程,检查目标、计划和行动三者是否彼此一致。

评测输出

  • 答案与问题相关吗?
  • 答案基于检索到的数据吗?
  • 发现不了筛错季度的查询

评测过程(GPA)

  • 计划是否服务于真实目标?
  • 工具选对了吗?
  • 行动是否遵循了计划?

Snowflake 工程博客于 2025 年 11 月 4 日发布了 Agent GPA 框架,并把指标按两两配对分组。目标-行动一组包括答案正确性、答案相关性和有据性;目标-计划一组包括计划质量和工具选择;计划-行动一组包括计划遵循度和工具调用。如果下周就要交付一个数据问答 Agent,先从目标-行动这三项指标做起。

思路三:让 Agent 在运行中自我评分

课程最后一部分讲内联评测。每次检索后,Agent 都会给刚取回的数据打一个相关性分数,并据此决定是否调整计划。在零售的例子里,低分可能促使 Agent 重新执行查询,而不是把第二季度的数据交给客户。

每次自检都会多一次评判调用,所以这项技术是用延迟换可靠性。对依据数字做决策的客户来说,这笔交换通常值得,但在生产环境开启之前应先度量。

一个简单的度量方法:用同一组真实问题跑两遍,一遍关闭内联评测,一遍开启。对每个问题,记录总运行时间、评判调用次数,以及 Agent 是否调整了计划。

然后比较两种配置的运行时间中位数和最慢一次,对照调整计划后挽回了多少问题,把这张表拿给客户做决定。

哪些可以跳过,按什么顺序学

最亮眼的 GPA 数据全部来自框架的构建者。Snowflake 博客称,标注员在 TRAIL/GAIA 上应用 GPA,发现了全部 570 个 Agent 内部错误。

Allison Sihan Jia 等人(包括 Anupam Datta)发表的 arXiv 论文 2510.08847 报告称,评判模型发现了 95% 的人工标注错误,并定位了其中 86%。

这些数据说明方法有一定依据,但不能证明它在你客户的数据上会有类似表现。同样,课程中与 Snowflake 平台深度绑定的部分,应当看作示例,而不是必选项。

比较合理的顺序是:先学课程,再读博客获取指标表;如果需要向客户的工程团队论证你的评测方案,再去读论文。

至于求职:当 FDE 岗位描述提到“evals”或“agents”时,一个在公开数据集上运行数据 Agent 的小仓库,加上一张按目标、计划、行动分类的错误表,远比简历上一行证书更有说服力。

演示让客户看到 Agent 能回答问题。评测套件让客户看到你知道它为什么会答错,而这才是客户续约的理由。

这篇文章对你有帮助吗?

3 个信源
路线图上的下一篇 · 阶段 6: 价值度量1.5 小时的 Agent 治理课:够打基础,不够上生产Agent 接触客户真实数据前,你得说清它以谁的权限行事、留下什么痕迹。