# 一门基于 GCP 的 LLMOps 课，经验能带到任何云

> DeepLearning.AI 这门 1 小时 31 分钟的课，教你搭可重跑、有版本的微调管道，AWS 或 Azure 客户同样需要。

原文: https://fdetimes.net/zh/books-courses/deeplearning-ai-llmops-course-review/

新版微调模型给客户的回答比上周那一版更差。如果你不知道它是用哪份数据集训练的，就只能靠猜。DeepLearning.AI 的 **LLMOps** 课程教的正是如何避免这种局面，全程不到两小时。

这门课于 2024 年 1 月 17 日发布，与 Google Cloud 合作制作，主讲人 Erwin Huizenga 在课程上线时担任 Google 机器学习技术负责人。据 Analytics India Magazine 报道，课程发布时免费开放；课程页面 deeplearning.ai/short-courses/llmops 最近一次更新是 2025 年 10 月 8 日。

对前线部署工程师（FDE）来说，这门课的价值不在 Google 的工具链。客户用的可能是 AWS、Azure，也可能是自建的 Kubernetes 集群。所以每学一课，都要问自己：哪部分是能带到下一个客户那里的工作习惯？

## 三节 21 分钟的课是核心

课程页面标注总时长 1 小时 31 分钟，分为：Introduction（4 分钟）、Fundamentals（11 分钟）、Data Preparation（21 分钟）、Automation and Orchestration with Pipelines（21 分钟）、Prediction, Prompts, Safety（21 分钟）、Conclusion（1 分钟），外加 10 分钟测验。

课程页面把主要目标写得很直白：改造一条采用监督微调的开源管道，让 LLM 更好地回答用户问题。用到的工具是 BigQuery、Kubeflow Pipelines 和 Google Cloud。

## 第一点：管道比 notebook 更有价值

Automation and Orchestration with Pipelines 这一课教你把分散的步骤串成自动运行的流程。在客户现场，这个区别决定了交接能否成功：notebook 只有写它的人能重跑，而管道在你离开项目后，客户团队照样能重跑。

根据官方文档，Kubeflow Pipelines 是一个用于构建和部署机器学习工作流的平台，工作流可跨环境移植，也易于扩展。它基于容器，运行在 Kubernetes 上。编译好的管道可以在任何兼容 KFP 的后端上运行，Google 的 Vertex AI Pipelines 只是其中之一。

## 第二点：数据和模型都要有版本

课程把数据和模型的版本管理视为最佳实践，发布时的媒体报道也强调了这一点。GitHub 上的一个非官方笔记仓库（ksm26/LLMOps）显示，这个实验是在 Kubeflow 中完成的，记录每一次微调运行，并没有依赖 GCP 的专有服务。

回到文章开头的场景，假设模型 v3 比 v2 差。如果每次运行都绑定了数据集版本，你可以马上对比两份数据集，比如发现最新一次导出混进了从未解决的工单。没有版本，和客户的会议就成了猜谜大会。

**要点:** 学的是某一家云厂商的工具，带走的却是在每个客户那里都管用的习惯。

## 第三点：安全是一个记录下来的数字

Prediction, Prompts, Safety 这一课教你为每类有害内容输出一个安全分数。每个类别单独打分，而不是合并成一个“安全/不安全”标签。正是这个细节，让安全变成了可以和客户谈的东西。

设想一家银行（以下类别和数字仅作示意）。仇恨言论分数达到 0.3 及以上就拦截回答，骚扰的阈值是 0.5；而危险内容，比如绕过身份验证的方法，分数低至 0.2 就要拦截，因为这是银行最担心的风险。

现在有一条回答，仇恨言论得分 0.1，骚扰 0.2，危险内容 0.35。三项平均约为 0.22，看上去无害。但逐类判断，它超过了危险内容 0.2 的阈值，会被拦截。单一的合并标签恰恰会漏掉这种情况。

所以，从项目一开始就把按类别划分的阈值表写进验收标准，让客户对每个数字签字确认，而不是含糊地承诺模型“安全”。

## 客户不在 GCP 上时，丢掉什么、保留什么

BigQuery 和 Google Cloud 平台是绑定厂商的部分。客户用别的数据存储时，把 Data Preparation 一课中的数据加载步骤换成客户的，清洗和格式化逻辑原样保留。

保留 Kubeflow Pipelines，因为它是开源的，能在任何兼容 KFP 的后端上运行。到客户现场后，第一件事是问基础设施团队有没有现成的 Kubernetes 集群，再决定是用 KFP，还是把这些步骤迁到他们已在用的编排工具里。

版本管理和安全评分是工作方法，与具体工具无关，每个项目都要带上。

## 适合谁学，按什么顺序学？

这门课适合调用过 LLM API、但从没把微调模型推上生产环境的工程师。先看 Fundamentals，再一口气学完 Data Preparation 和 Pipelines，因为两课前后衔接，最后学 Safety。如果你已经熟悉传统 MLOps，基础部分可以快速浏览。

职业方面，阅读 FDE 或应用 AI 岗位的职位描述时，留意 pipeline orchestration、Kubeflow、model versioning 这类关键词。写在简历上，“搭建了可复现的微调管道，数据和模型均有版本管理，并按类别设定安全阈值”这样一行，远比一张课程证书有分量。

## 学完后的练习

拿课程里的管道，假设客户不在 GCP 上，用一页纸重写：哪一步迁到客户的数据存储，哪些步骤在 KFP 上保持不变，每次运行记录哪些版本 ID，以及你会请客户签字的按类别安全阈值表。

如果这页纸清楚到客户那边的工程师不用问你就能重跑全部流程，你就学到了这门课真正想教的东西。每个客户迟早都会问：“这个版本是用什么数据训练的？”

**本周动手试试:**

- 看完 Data Preparation 和 Automation and Orchestration with Pipelines 两节课（各 21 分钟），然后手绘一遍管道，标出绑定 BigQuery 的步骤。
- 拿你手头的一个微调或提示词项目，给每次运行分配数据版本 ID 和模型版本 ID，并记录在同一个地方。
- 阅读 Kubeflow Pipelines 概览页，弄清你当前（或假想的）客户的 Kubernetes 集群能运行哪种 KFP 后端。

## 信源

- [LLMOps – DeepLearning.AI](https://deeplearning.ai/short-courses/llmops)

- [New LLMOps short course – DeepLearning.AI Community](https://community.deeplearning.ai/t/new-llmops-short-course/547525)

- [ksm26/LLMOps (GitHub course notes repo, unofficial)](https://www.github.com/ksm26/LLMOps)

- [Overview | Kubeflow Pipelines](https://www.kubeflow.org/docs/components/pipelines/overview/)

- [Andrew Ng partners with Google Cloud for new course on LLMOps – Analytics India Magazine](https://analyticsindiamag.com/andrew-ng-partners-with-google-cloud-for-new-course-on-llmops/)