# 1.5 小时的 Agent 治理课：够打基础，不够上生产

> Agent 接触客户真实数据前，你得说清它以谁的权限行事、留下什么痕迹。

原文: https://fdetimes.net/zh/books-courses/governing-ai-agents-course-review/

这门课只有约 1.5 小时，难度标为入门。但课程大纲中间有一节，提出了 Agent 演示往往回避的问题：这个 Agent 是谁？

[Governing AI Agents](https://www.deeplearning.ai/courses/governing-ai-agents) 是 DeepLearning.AI 与 Databricks 合作推出的短课，讲师是 Databricks 的 Staff Technical Marketing Manager Amber Roberts。课程页面的理由很简短：Agent 自主访问的数据越来越多、越来越敏感，治理就成了必选项。

对前线部署工程师（FDE）来说，从 Agent 接触客户真实数据的第一天起，这就是要面对的问题。简短的结论是：如果你从未把 Agent 部署到生产环境，值得一学，但只把它当作这项技能的前一半。另一半在课程之外。

## 一个晚上、三个实验，和一项值得认真做的任务

课程围绕四大支柱展开：生命周期管理、风险管理、安全和可观测性。大纲共 11 项，包括视频、3 个实验和一次计分测验。实践部分是给一个数据分析 Agent 加上治理，限制它访问敏感数据。

唯一的前置要求是 Python 基础，想转向 FDE 工作的软件工程师可以直接上手。课程页面在 2026 年 7 月 17 日更新，称平台测试期间限时免费。这一点可能已有变化，报名前请先确认。

四大支柱的名称不必死记。价值在于下面三个观点，以及你如何把它们带回自己的工作。

## 观点一：Agent 在权限体系中需要自己的身份

第 4 课讲的是如何给 Agent 一个身份。设想一个 HR 分析 Agent，与实验 3 中用到的类似，运行在一个共享服务账号上，能读取 200 名员工的记录。

一位有 12 名直属下属的经理向 Agent 询问团队薪资。在系统看来，Agent 仍然能读取另外 188 条提问者无权查看的记录。泄露并不需要模型出错，换个问法就够了。

[Databricks 一篇关于 Unity Catalog 的博客](https://www.databricks.com/blog/governing-ai-agents-scale-unity-catalog)展示了这一观点在生产环境中的样子，规则很清楚：如果你在 Unity Catalog 中无权访问某张表，代表你行事的 Agent 也无权访问。

把这条规则套到上面的例子，Agent 就再也读不到那 188 条多出来的记录。

**要点:** Agent 能看到的，只应是它所代表的人有权看到的。

到了客户现场，第一件事是问清 Agent 会以哪个账号运行。如果答案是共享账号，就按上面的例子算出权限差距，把这个数字摆到会议桌上。

## 观点二：追踪记录也是证据

课程把可观测性定义为追踪 Agent 的输入、输出和决策，用于提升透明度和调试。这是工程师最容易吸收的部分，因为它和熟悉的日志工作很像。

Databricks 在[一篇关于 MLflow 追踪的文章](https://developers.databricks.com/perspectives/every-mlflow-trace-on-databricks-carries-the-permission-trail-behind-it)中更进一步：当追踪同时记录下允许每个操作的权限链路时，它就成了审计记录，而不只是调试工具。

当有人问起“上周 Agent 为什么把这份数据返回给那个人？”，差别就显现出来了。

只有输入和输出的追踪，能告诉你发生了什么。加上身份和权限的追踪，还能告诉你是谁允许它这么做。为客户设计日志时，先把审计人员会问的问题写下来，再检查追踪能否回答。

## 观点三：治理不是上线前的一道关卡

课程把治理放在整个生命周期中呈现，从定义访问控制到监控运行中的行为。这个视角值得保留，因为它让治理不会沦为最后的签字环节；就连实验 3 的标题，也把评测和部署合在一个练习里。

在客户那里，为每个阶段指定一位负责人和一份证据：上线前谁审批权限，上线后谁审查行为，两人各自看哪里。这样一张表常常会暴露出没人负责的工作，那正是要最先处理的风险。

## 哪些可以跳过，哪些需要补充

如果你已经在生产环境中运行 Agent，可以略过概念视频，直接做实验 3，但先确认这个实验是否依赖前面实验的结果。

讲师和合作方都来自 Databricks，所以要把原则和产品分开：按用户授权和可审计的追踪是可以带走的，工具名称则取决于客户的技术栈。

真正值得补的缺口在课程之后。Unity Catalog 那篇博客描述了 Agent 的每次调用在执行前都要对照策略检查，执行后记录日志。

文章还介绍了把 GitHub、Jira、Slack 等外部 MCP 服务器注册到 Unity Catalog，像其他可保护对象（securable）一样治理，课程似乎没有涉及这一主题。

合理的顺序是：先学课程，紧接着读 Unity Catalog 那篇博客，再读 MLflow 追踪的文章。之后在自己的一个 Agent 上，接入一个外部工具，亲手把这套做一遍，因为课程似乎就止步于此，真正的工作从这里开始。

就职业发展而言，别把这门课变成简历上的一行字。有价值的那一行是你做过的事，比如一个个人项目：Agent 以用户的权限运行，每个操作都能追溯。

当 FDE 岗位描述提到访问控制、审计或可观测性时，面试中可以问：那里的 Agent 接触过真实数据了吗？它的权限由谁掌握？

这门课用 1.5 小时教你提出正确的问题。下次客户问起 Agent 读了什么、谁允许的，你应该能直接打开一条追踪记录，而不是给出一个承诺。

**本周动手试试:**

- 学完第 4 课和实验 3（如果实验 3 依赖前面的实验，一并完成），然后写一页文字回答：实验中的 Agent 以什么身份运行？它能读取哪些数据？
- 拿一个你构建过的 Agent，列出它接触的每个工具和每张表，在旁边注明权限由谁授予、调用记录在哪里。
- 打开这个 Agent 的一条追踪记录，试着回答：是谁请求了这个操作？哪项权限允许了它？

## 信源

- [New course! Enroll in Governing Data Agents (DeepLearning.AI Community)](https://community.deeplearning.ai/t/new-course-enroll-in-governing-data-agents/882097)

- [Governing AI Agents – DeepLearning.AI](https://www.deeplearning.ai/courses/governing-ai-agents)

- [Governing AI Agents – DeepLearning.AI short course](https://www.deeplearning.ai/short-courses/governing-ai-agents/)

- [Governing AI agents at scale with Unity Catalog](https://www.databricks.com/blog/governing-ai-agents-scale-unity-catalog)

- [How does MLflow tracing on Databricks record which permissions authorized each AI agent action? | Databricks Developer](https://developers.databricks.com/perspectives/every-mlflow-trace-on-databricks-carries-the-permission-trail-behind-it)