1.5 小时的 Agent 治理课:够打基础,不够上生产
Agent 接触客户真实数据前,你得说清它以谁的权限行事、留下什么痕迹。
要点速览
- DeepLearning.AI 与 Databricks 合作的这门课约 1.5 小时,只需 Python 基础,包含 3 个实验,围绕治理的四大支柱展开。
- 值得记住的有三点:Agent 需要身份,追踪记录同时也是审计证据,治理贯穿整个生命周期。
- 这门课只是基础:每次调用的策略检查和 MCP 服务器治理需要另外学。
这门课只有约 1.5 小时,难度标为入门。但课程大纲中间有一节,提出了 Agent 演示往往回避的问题:这个 Agent 是谁?
Governing AI Agents 是 DeepLearning.AI 与 Databricks 合作推出的短课,讲师是 Databricks 的 Staff Technical Marketing Manager Amber Roberts。课程页面的理由很简短:Agent 自主访问的数据越来越多、越来越敏感,治理就成了必选项。
对前线部署工程师(FDE)来说,从 Agent 接触客户真实数据的第一天起,这就是要面对的问题。简短的结论是:如果你从未把 Agent 部署到生产环境,值得一学,但只把它当作这项技能的前一半。另一半在课程之外。
一个晚上、三个实验,和一项值得认真做的任务
课程围绕四大支柱展开:生命周期管理、风险管理、安全和可观测性。大纲共 11 项,包括视频、3 个实验和一次计分测验。实践部分是给一个数据分析 Agent 加上治理,限制它访问敏感数据。
唯一的前置要求是 Python 基础,想转向 FDE 工作的软件工程师可以直接上手。课程页面在 2026 年 7 月 17 日更新,称平台测试期间限时免费。这一点可能已有变化,报名前请先确认。
四大支柱的名称不必死记。价值在于下面三个观点,以及你如何把它们带回自己的工作。
观点一:Agent 在权限体系中需要自己的身份
第 4 课讲的是如何给 Agent 一个身份。设想一个 HR 分析 Agent,与实验 3 中用到的类似,运行在一个共享服务账号上,能读取 200 名员工的记录。
一位有 12 名直属下属的经理向 Agent 询问团队薪资。在系统看来,Agent 仍然能读取另外 188 条提问者无权查看的记录。泄露并不需要模型出错,换个问法就够了。
Databricks 一篇关于 Unity Catalog 的博客展示了这一观点在生产环境中的样子,规则很清楚:如果你在 Unity Catalog 中无权访问某张表,代表你行事的 Agent 也无权访问。
把这条规则套到上面的例子,Agent 就再也读不到那 188 条多出来的记录。
到了客户现场,第一件事是问清 Agent 会以哪个账号运行。如果答案是共享账号,就按上面的例子算出权限差距,把这个数字摆到会议桌上。
观点二:追踪记录也是证据
课程把可观测性定义为追踪 Agent 的输入、输出和决策,用于提升透明度和调试。这是工程师最容易吸收的部分,因为它和熟悉的日志工作很像。
Databricks 在一篇关于 MLflow 追踪的文章中更进一步:当追踪同时记录下允许每个操作的权限链路时,它就成了审计记录,而不只是调试工具。
当有人问起“上周 Agent 为什么把这份数据返回给那个人?”,差别就显现出来了。
只有输入和输出的追踪,能告诉你发生了什么。加上身份和权限的追踪,还能告诉你是谁允许它这么做。为客户设计日志时,先把审计人员会问的问题写下来,再检查追踪能否回答。
观点三:治理不是上线前的一道关卡
课程把治理放在整个生命周期中呈现,从定义访问控制到监控运行中的行为。这个视角值得保留,因为它让治理不会沦为最后的签字环节;就连实验 3 的标题,也把评测和部署合在一个练习里。
在客户那里,为每个阶段指定一位负责人和一份证据:上线前谁审批权限,上线后谁审查行为,两人各自看哪里。这样一张表常常会暴露出没人负责的工作,那正是要最先处理的风险。
哪些可以跳过,哪些需要补充
如果你已经在生产环境中运行 Agent,可以略过概念视频,直接做实验 3,但先确认这个实验是否依赖前面实验的结果。
讲师和合作方都来自 Databricks,所以要把原则和产品分开:按用户授权和可审计的追踪是可以带走的,工具名称则取决于客户的技术栈。
真正值得补的缺口在课程之后。Unity Catalog 那篇博客描述了 Agent 的每次调用在执行前都要对照策略检查,执行后记录日志。
文章还介绍了把 GitHub、Jira、Slack 等外部 MCP 服务器注册到 Unity Catalog,像其他可保护对象(securable)一样治理,课程似乎没有涉及这一主题。
合理的顺序是:先学课程,紧接着读 Unity Catalog 那篇博客,再读 MLflow 追踪的文章。之后在自己的一个 Agent 上,接入一个外部工具,亲手把这套做一遍,因为课程似乎就止步于此,真正的工作从这里开始。
就职业发展而言,别把这门课变成简历上的一行字。有价值的那一行是你做过的事,比如一个个人项目:Agent 以用户的权限运行,每个操作都能追溯。
当 FDE 岗位描述提到访问控制、审计或可观测性时,面试中可以问:那里的 Agent 接触过真实数据了吗?它的权限由谁掌握?
这门课用 1.5 小时教你提出正确的问题。下次客户问起 Agent 读了什么、谁允许的,你应该能直接打开一条追踪记录,而不是给出一个承诺。
这篇文章对你有帮助吗?
感谢你的反馈!
5 个信源
- New course! Enroll in Governing Data Agents (DeepLearning.AI Community) · 2025-10-24
- Governing AI Agents – DeepLearning.AI · 2026-07-17
- Governing AI Agents – DeepLearning.AI short course · 2026-07-17
- Governing AI agents at scale with Unity Catalog · 2026-05-20
- How does MLflow tracing on Databricks record which permissions authorized each AI agent action? | Databricks Developer