FDE Times 数据在招 FDE 职位 863▼55 近 7 天在招职位数的变化(同口径比较):不计入本周新开始追踪的公司的职位近 7 天新增 71在招公司 181支持远程 24%美国薪资中位数 $200k招聘最多 Palantir 95
ENVI

前线部署工程师(FDE)的专业媒体

书籍与课程

一门 2023 年的大模型课,最有用的一课至今没过时

DeepLearning.AI 与 AWS 讲的技术已显陈旧,但从用例到部署的项目地图,正是前线部署工程师面对客户时的工具。

分享微博

要点速览

  • DeepLearning.AI 与 AWS 于 2023 年推出这门课程,Andrew Ng 指导课程内容,四位 AWS 一线从业者授课。
  • 课程的核心价值是一张项目生命周期地图:用例、数据、模型选型、微调、评测、部署。
  • 这是一门中级课程:需要 Python 和 ML 基础,实验在真实的 AWS 环境中运行。
流程图展示 LLM 项目生命周期的五个步骤,每一步配一个问客户的问题。第 1 步“用例”(高亮):谁使用输出、他们在哪里浪费时间,这是起点,而不是模型名称。第 2 步“数据”:有多少数据、是否脱敏、有没有样例。第 3 步“选模型”:延迟、成本和数据处理地点的限制。第 4 步“微调”:好的摘要是什么样、由谁评判,始终做前后测量。第 5 步“部署”:结果出现在员工已在用的哪些工具里,这往往是 FDE 贡献最大的环节。底部横条:带着“想把 LLM 引入客服”走进会议,带着一个可衡量的对话摘要任务走出会议。
Generative AI with LLMs 课程讲授的生命周期地图,可以变成五个问题,把客户模糊的需求收窄为一个可衡量的问题。

2023 年 6 月,DeepLearning.AI 与 AWS 联合推出了一门大模型实战课程。三年过去,这门课最有价值的部分并不是某项具体技术,而是一张地图:生成式 AI 项目从选定用例到把模型放进产品的完整生命周期。

对想成为前线部署工程师(FDE)的人来说,这张地图是日常工具。坐在客户对面,你要迅速回答一连串问题:这个问题需要 LLM 吗?用哪个模型?要不要微调?怎么衡量质量?怎么部署?

Generative AI with Large Language Models 这门课正是围绕这一连串问题展开的。

讲师来自部署一线

课程内容在 DeepLearning.AI 创始人 Andrew Ng 的指导下开发,由四位 AWS 从业者授课:Antje Barth、Chris Fregly、Shelbee Eigenbrode 和 Mike Chambers。官方页面介绍,他们本人就在为企业用例构建和部署 AI。

有志成为 FDE 的人应该留意这一点。做部署工作的讲师更关注“怎样让它跑起来”,而不是“它为什么有效”。AWS 称,这是 Coursera 上第一门详细讲解生成式 AI 项目典型生命周期的 LLM 综合课程。

课程的每一部分都在训练一项 FDE 技能

官方页面介绍,课程围绕生命周期的几个关键步骤设计:数据收集、模型选型、效果评测和部署。把课程大纲和 FDE 的日常工作放在一起看,每一部分都对应一项具体技能。

部分 内容 训练的 FDE 技能
第 1 周 生成式 AI 用例、项目生命周期、模型预训练 界定问题范围;向客户解释 LLM 能做什么、不能做什么
第 2–3 周 微调与评测、强化学习、基于 LLM 的应用 判断模型何时需要适配、衡量质量、把模型接入真实系统

实战部分运行在合作方 Vocareum 托管的 AWS 环境中,你是在真实的云基础设施上动手,而不只是看视频。Lab 2 要求微调一个生成式 AI 模型来做对话摘要,这与企业的实际需求非常接近。

学完值得留下的三个观点

第一:先想生命周期,再想工具。客户来的时候,需求里往往已经带着某个模型的名字。好的 FDE 会把对话拉回第一步:用例是什么?然后才谈数据和模型。

第二:微调和评测要放在一起。课程把两者放在同一块内容里,这个安排本身就是正确的一课:微调前后不做测量,你就无法向客户证明改进了什么。

第三:部署是生命周期中的一步,而不是模型做好之后的附加工作。再出色的模型,如果游离在用户的工作流之外,几乎毫无用处,而这里往往正是 FDE 创造最大价值的地方。

客户会议上的五个问题

设想一家零售连锁企业开会时第一句话就说:想把 LLM 引入客服部门。这个需求太宽泛,无从下手。生命周期地图给了你五个问题,把它逐步收窄。

第一个问题属于用例环节:谁会使用输出结果?他们现在的时间浪费在哪里?假设答案是:值班经理每天要读几百条聊天记录来跟踪投诉。问题就缩小成了对话摘要。

第二个问题关于数据:有多少聊天记录?是否已经脱敏?有没有人工写好的摘要可以当样例?第三个问题关于模型选型:延迟、成本以及数据可以在哪里处理,各有什么限制?这两个问题在任何人打开 notebook 之前就能排除掉一部分方案。

第四个问题决定是否微调:好的摘要是什么样子?由谁来评判?如果普通提示词已经达到客户的标准,就省下一整轮适配;如果达不到,就该用上 Lab 2 的技术,并且做好前后对比测量。

最后一个问题属于部署环节:摘要会出现在员工每天使用的哪个工具里?问完这五个问题,你离开会议室时带走的是一个可衡量的问题,而不是一个模糊的愿望。

谁适合学,按什么顺序学

这门课面向想用 LLM 构建生成式 AI 应用的数据科学家和工程师。它是一门中级课程:官方页面写明,你需要有 Python 编程经验,以及基本的 ML 基础。

如果你是从没接触过 ML 的后端或全栈开发者,不要直接上手。先补好 Python 和基础 ML 概念,再学这门课,学完立即做一个自己的小项目。如果你已经懂 ML,可以快速过掉预训练部分,把时间花在实验上。

对时效也要有清醒认识。课程上线于 2023 年,应当把它当作建立生命周期思维的基础,此后出现的新技术需要自己另找更新的资料。

把证书变成证据

证书通常不如一个能跑的项目有说服力。你要向面试官证明的,是把一个模糊问题一路推进到可运行系统的能力。所以,别让实验停留在学习环境里。

把 Lab 2 的思路用到公开的对话数据集或工作中脱敏后的数据上,再按生命周期写一份 README:用例、数据、为什么选这个模型、怎么评测、怎么部署。在简历上,按这个顺序描述的一行项目经历,比课程名称更有说服力。

阅读 FDE 岗位描述时,留意“end-to-end”“from prototype to production”“working directly with customers”这类措辞。这正是你在这门课上学到的生命周期地图开始发挥作用的地方。

这篇文章对你有帮助吗?

2 个信源
路线图上的下一篇 · 阶段 3: AI 应用吴恩达的 Agentic AI 课程,最值得学的是评测四种设计模式最吸引人,但错误分析模块才最接近 FDE 在客户现场的日常工作。