# 一门 2023 年的大模型课，最有用的一课至今没过时

> DeepLearning.AI 与 AWS 讲的技术已显陈旧，但从用例到部署的项目地图，正是前线部署工程师面对客户时的工具。

原文: https://fdetimes.net/zh/books-courses/generative-ai-with-llms-course-review/

2023 年 6 月，DeepLearning.AI 与 AWS 联合推出了一门大模型实战课程。三年过去，这门课最有价值的部分并不是某项具体技术，而是一张地图：生成式 AI 项目从选定用例到把模型放进产品的完整生命周期。

对想成为前线部署工程师（FDE）的人来说，这张地图是日常工具。坐在客户对面，你要迅速回答一连串问题：这个问题需要 LLM 吗？用哪个模型？要不要微调？怎么衡量质量？怎么部署？

[Generative AI with Large Language Models](https://www.deeplearning.ai/courses/generative-ai-with-llms/) 这门课正是围绕这一连串问题展开的。

## 讲师来自部署一线

课程内容在 DeepLearning.AI 创始人 Andrew Ng 的指导下开发，由四位 AWS 从业者授课：Antje Barth、Chris Fregly、Shelbee Eigenbrode 和 Mike Chambers。官方页面介绍，他们本人就在为企业用例构建和部署 AI。

有志成为 FDE 的人应该留意这一点。做部署工作的讲师更关注“怎样让它跑起来”，而不是“它为什么有效”。AWS 称，这是 Coursera 上第一门详细讲解生成式 AI 项目典型生命周期的 LLM 综合课程。

## 课程的每一部分都在训练一项 FDE 技能

官方页面介绍，课程围绕生命周期的几个关键步骤设计：数据收集、模型选型、效果评测和部署。把课程大纲和 FDE 的日常工作放在一起看，每一部分都对应一项具体技能。

| 部分 | 内容 | 训练的 FDE 技能 |
|---|---|---|
| 第 1 周 | 生成式 AI 用例、项目生命周期、模型预训练 | 界定问题范围；向客户解释 LLM 能做什么、不能做什么 |
| 第 2–3 周 | 微调与评测、强化学习、基于 LLM 的应用 | 判断模型何时需要适配、衡量质量、把模型接入真实系统 |

实战部分运行在合作方 Vocareum 托管的 AWS 环境中，你是在真实的云基础设施上动手，而不只是看视频。Lab 2 要求微调一个生成式 AI 模型来做对话摘要，这与企业的实际需求非常接近。

## 学完值得留下的三个观点

第一：先想生命周期，再想工具。客户来的时候，需求里往往已经带着某个模型的名字。好的 FDE 会把对话拉回第一步：用例是什么？然后才谈数据和模型。

第二：微调和评测要放在一起。课程把两者放在同一块内容里，这个安排本身就是正确的一课：微调前后不做测量，你就无法向客户证明改进了什么。

第三：部署是生命周期中的一步，而不是模型做好之后的附加工作。再出色的模型，如果游离在用户的工作流之外，几乎毫无用处，而这里往往正是 FDE 创造最大价值的地方。

**要点:** 这门课教的不是某个模型，而是客户会问你的那一连串决策。

## 客户会议上的五个问题

设想一家零售连锁企业开会时第一句话就说：想把 LLM 引入客服部门。这个需求太宽泛，无从下手。生命周期地图给了你五个问题，把它逐步收窄。

第一个问题属于用例环节：谁会使用输出结果？他们现在的时间浪费在哪里？假设答案是：值班经理每天要读几百条聊天记录来跟踪投诉。问题就缩小成了对话摘要。

第二个问题关于数据：有多少聊天记录？是否已经脱敏？有没有人工写好的摘要可以当样例？第三个问题关于模型选型：延迟、成本以及数据可以在哪里处理，各有什么限制？这两个问题在任何人打开 notebook 之前就能排除掉一部分方案。

第四个问题决定是否微调：好的摘要是什么样子？由谁来评判？如果普通提示词已经达到客户的标准，就省下一整轮适配；如果达不到，就该用上 Lab 2 的技术，并且做好前后对比测量。

最后一个问题属于部署环节：摘要会出现在员工每天使用的哪个工具里？问完这五个问题，你离开会议室时带走的是一个可衡量的问题，而不是一个模糊的愿望。

## 谁适合学，按什么顺序学

这门课面向想用 LLM 构建生成式 AI 应用的数据科学家和工程师。它是一门中级课程：官方页面写明，你需要有 Python 编程经验，以及基本的 ML 基础。

如果你是从没接触过 ML 的后端或全栈开发者，不要直接上手。先补好 Python 和基础 ML 概念，再学这门课，学完立即做一个自己的小项目。如果你已经懂 ML，可以快速过掉预训练部分，把时间花在实验上。

对时效也要有清醒认识。课程上线于 2023 年，应当把它当作建立生命周期思维的基础，此后出现的新技术需要自己另找更新的资料。

## 把证书变成证据

证书通常不如一个能跑的项目有说服力。你要向面试官证明的，是把一个模糊问题一路推进到可运行系统的能力。所以，别让实验停留在学习环境里。

把 Lab 2 的思路用到公开的对话数据集或工作中脱敏后的数据上，再按生命周期写一份 README：用例、数据、为什么选这个模型、怎么评测、怎么部署。在简历上，按这个顺序描述的一行项目经历，比课程名称更有说服力。

阅读 FDE 岗位描述时，留意“end-to-end”“from prototype to production”“working directly with customers”这类措辞。这正是你在这门课上学到的生命周期地图开始发挥作用的地方。

**本周动手试试:**

- 在官方页面读一遍第 1 周的大纲，然后针对项目生命周期的每一步，写下你会问客户的五个问题。
- 从你所在公司挑一个真实问题（例如给客服聊天记录做摘要），自己回答：它需要微调吗？你会怎样衡量质量？
- 如果 Python 或 ML 基础还不扎实，这周先花时间复习，再报名。

## 信源

- [Generative AI with Large Language Models - DeepLearning.AI](https://www.deeplearning.ai/courses/generative-ai-with-llms/)

- [Generative AI with Large Language Models – New Hands-on Course by DeepLearning.AI and AWS (AWS News Blog)](https://aws.amazon.com/blogs/aws/generative-ai-with-large-language-models-new-hands-on-course-by-deeplearning-ai-and-aws/)