DeepLearning.AI 的 RAG 课，最精彩的在最后

DeepLearning.AI 的 RAG 课程约 26 小时，分五个模块。但一位拿到证书的学员评价最高的模块，偏偏排在最后：生产环境。

对前线部署工程师（FDE）来说，这种编排既是优势，也是陷阱。优势在于，讲到运维之前，检索基础已经打牢；陷阱在于，如果不清楚自己需要什么就按顺序学，可能还没学到最有价值的部分就放弃了。

课程名为“Retrieval Augmented Generation (RAG)”，可在 DeepLearning.AI 网站（标注更新于 2026 年 7 月 23 日）和 Coursera 上学习。每个模块都有编程作业，逐一搭建 RAG 系统的核心组件。

把 LLM 接入客户自己的文档，是 FDE 的日常工作。挑对重点细学，就能在与客户的工作会议上当场讨论设计决策。

谁来讲，练习有多贴近实战？

Zain Hasan 是 Together AI 的 AI/ML 开发者关系工程师，同时在多伦多大学任教。因此，这门课偏重动手搭建，而非理论。

一个典型的实验是为一家虚构服装店做聊天机器人：先用闭源 LLM，之后换成 Together AI 的开源模型。做这个实验时，记下换模型时管道中哪些部分必须改，因为客户中途改需求时，FDE 面对的正是这种情况。

最后一个编程作业“Improving the ChatBot”处理生产环境问题，比如价格不断变化、记录交互以便监控。正是这类问题，让精致的演示一碰到真实数据就开始答错。

哪些细学，哪些略读

学习顺序取决于你的搜索背景。如果做过搜索，或已经熟悉向量数据库，检索相关模块可以快速过，只在练习处停下来。

如果没有，就别跳过。模型只能根据检索交给它的内容来写，搜索做得差，后面的生成环节很难补救。前面提到的那位学员说，讲向量数据库的第 3 模块让他收获很多。

讲文本生成的第 4 模块，即使你已经很懂 LLM，也值得再看一遍。据这位学员介绍，这一模块详细讲解了 RAG 中的 LLM 采样策略，而他认为真正理解这一点的人不多。

第 5 模块整个讲生产环境：监控、评测、延迟、安全，以及成本与质量的权衡。这几乎就是客户会问你的问题清单，所以无论属于哪一类学员，都应尽早读一下这个模块的大纲。

混合检索不是点缀

有一个实验比较了三种检索方法：语义搜索、BM25，以及合并多种搜索方法排名的倒数排名融合（Reciprocal Rank Fusion）。值得认真做，因为它回答了一个很实际的问题：什么时候一种搜索方法不够用？

设想一家制造业客户，维护文档里满是“SKU-4471”这样的零件编码。Embedding 擅长捕捉语义，却容易漏掉这种精确字符串；BM25 正好相反。

所以到了客户那里，第一件事是收集真实的用户问题，统计其中有多少包含编码、专有名称或序列号。如果比例很高，两种方法结合就应当是默认方案，而不是留到以后的优化项。

成本从检索质量开始

第 5 模块讲的成本与质量权衡，粗略算一笔账更好理解。假设每个问题检索 20 段、每段 500 个 token，上下文就已经有 10,000 个 token。减到 5 段，就降到 2,500 个 token，更便宜也更快。

前提是这 5 段确实是最好的。检索越精准，能在不损失质量的情况下发送的 token 就越少。

在客户那里，从第一次设计会议起就把两个数字摆上桌面：每个问题花多少 token，必须在几秒内回答。两者明确之后，讨论会比争论选哪个模型具体得多。

知道系统在哪里出错

完成证书的这位学员认为第 5 模块最有价值，主要是因为它教了一套具体的可观测性工具。这项技能正是 FDE 与只会做演示的人之间的分界线。

如果日志显示正确的段落根本没被检索到，改提示词毫无意义，必须修检索。如果正确的段落就在上下文里，答案仍然错，这时才该去看提示词、采样设置或模型。

证书不等于证明

这位学员也指出了课程的不足：Notebook 评分相当死板，选择题测验也不难。所以别把通过作业当作已经掌握的标志。

更有说服力的证明是一个小项目：基于公开文档集做 RAG，比较语义搜索与结合 BM25 的效果，记录每一次查询，并用一张表记下延迟、token 成本和正确回答的比例。

看 FDE 岗位的职位描述时，留意有没有提到混合搜索、向量数据库或可观测性。如果有，这个项目就是写进简历、在面试中拿来讲的内容。

学完五个模块的人，知道 RAG 是什么。细学最后一个模块、并亲手度量自己系统的人，在客户打电话说答案不对时，知道该去哪里找原因。