一门 2023 年的大模型课,最有用的一课至今没过时
DeepLearning.AI 与 AWS 讲的技术已显陈旧,但从用例到部署的项目地图,正是前线部署工程师面对客户时的工具。
要点速览
- DeepLearning.AI 与 AWS 于 2023 年推出这门课程,Andrew Ng 指导课程内容,四位 AWS 一线从业者授课。
- 课程的核心价值是一张项目生命周期地图:用例、数据、模型选型、微调、评测、部署。
- 这是一门中级课程:需要 Python 和 ML 基础,实验在真实的 AWS 环境中运行。
2023 年 6 月,DeepLearning.AI 与 AWS 联合推出了一门大模型实战课程。三年过去,这门课最有价值的部分并不是某项具体技术,而是一张地图:生成式 AI 项目从选定用例到把模型放进产品的完整生命周期。
对想成为前线部署工程师(FDE)的人来说,这张地图是日常工具。坐在客户对面,你要迅速回答一连串问题:这个问题需要 LLM 吗?用哪个模型?要不要微调?怎么衡量质量?怎么部署?
Generative AI with Large Language Models 这门课正是围绕这一连串问题展开的。
讲师来自部署一线
课程内容在 DeepLearning.AI 创始人 Andrew Ng 的指导下开发,由四位 AWS 从业者授课:Antje Barth、Chris Fregly、Shelbee Eigenbrode 和 Mike Chambers。官方页面介绍,他们本人就在为企业用例构建和部署 AI。
有志成为 FDE 的人应该留意这一点。做部署工作的讲师更关注“怎样让它跑起来”,而不是“它为什么有效”。AWS 称,这是 Coursera 上第一门详细讲解生成式 AI 项目典型生命周期的 LLM 综合课程。
课程的每一部分都在训练一项 FDE 技能
官方页面介绍,课程围绕生命周期的几个关键步骤设计:数据收集、模型选型、效果评测和部署。把课程大纲和 FDE 的日常工作放在一起看,每一部分都对应一项具体技能。
| 部分 | 内容 | 训练的 FDE 技能 |
|---|---|---|
| 第 1 周 | 生成式 AI 用例、项目生命周期、模型预训练 | 界定问题范围;向客户解释 LLM 能做什么、不能做什么 |
| 第 2–3 周 | 微调与评测、强化学习、基于 LLM 的应用 | 判断模型何时需要适配、衡量质量、把模型接入真实系统 |
实战部分运行在合作方 Vocareum 托管的 AWS 环境中,你是在真实的云基础设施上动手,而不只是看视频。Lab 2 要求微调一个生成式 AI 模型来做对话摘要,这与企业的实际需求非常接近。
学完值得留下的三个观点
第一:先想生命周期,再想工具。客户来的时候,需求里往往已经带着某个模型的名字。好的 FDE 会把对话拉回第一步:用例是什么?然后才谈数据和模型。
第二:微调和评测要放在一起。课程把两者放在同一块内容里,这个安排本身就是正确的一课:微调前后不做测量,你就无法向客户证明改进了什么。
第三:部署是生命周期中的一步,而不是模型做好之后的附加工作。再出色的模型,如果游离在用户的工作流之外,几乎毫无用处,而这里往往正是 FDE 创造最大价值的地方。
客户会议上的五个问题
设想一家零售连锁企业开会时第一句话就说:想把 LLM 引入客服部门。这个需求太宽泛,无从下手。生命周期地图给了你五个问题,把它逐步收窄。
第一个问题属于用例环节:谁会使用输出结果?他们现在的时间浪费在哪里?假设答案是:值班经理每天要读几百条聊天记录来跟踪投诉。问题就缩小成了对话摘要。
第二个问题关于数据:有多少聊天记录?是否已经脱敏?有没有人工写好的摘要可以当样例?第三个问题关于模型选型:延迟、成本以及数据可以在哪里处理,各有什么限制?这两个问题在任何人打开 notebook 之前就能排除掉一部分方案。
第四个问题决定是否微调:好的摘要是什么样子?由谁来评判?如果普通提示词已经达到客户的标准,就省下一整轮适配;如果达不到,就该用上 Lab 2 的技术,并且做好前后对比测量。
最后一个问题属于部署环节:摘要会出现在员工每天使用的哪个工具里?问完这五个问题,你离开会议室时带走的是一个可衡量的问题,而不是一个模糊的愿望。
谁适合学,按什么顺序学
这门课面向想用 LLM 构建生成式 AI 应用的数据科学家和工程师。它是一门中级课程:官方页面写明,你需要有 Python 编程经验,以及基本的 ML 基础。
如果你是从没接触过 ML 的后端或全栈开发者,不要直接上手。先补好 Python 和基础 ML 概念,再学这门课,学完立即做一个自己的小项目。如果你已经懂 ML,可以快速过掉预训练部分,把时间花在实验上。
对时效也要有清醒认识。课程上线于 2023 年,应当把它当作建立生命周期思维的基础,此后出现的新技术需要自己另找更新的资料。
把证书变成证据
证书通常不如一个能跑的项目有说服力。你要向面试官证明的,是把一个模糊问题一路推进到可运行系统的能力。所以,别让实验停留在学习环境里。
把 Lab 2 的思路用到公开的对话数据集或工作中脱敏后的数据上,再按生命周期写一份 README:用例、数据、为什么选这个模型、怎么评测、怎么部署。在简历上,按这个顺序描述的一行项目经历,比课程名称更有说服力。
阅读 FDE 岗位描述时,留意“end-to-end”“from prototype to production”“working directly with customers”这类措辞。这正是你在这门课上学到的生命周期地图开始发挥作用的地方。
这篇文章对你有帮助吗?
感谢你的反馈!