FDE Times 数据在招 FDE 职位 881▼8 近 7 天在招职位数的变化(同口径比较):不计入本周新开始追踪的公司的职位近 7 天新增 55在招公司 185支持远程 25%美国薪资中位数 $201k招聘最多 Databricks 98
ENVI

前线部署工程师(FDE)的专业媒体

工具

客户还没选定模型,先写能用得更久的工具

Vercel AI SDK 用一套 API 接入各家模型,换模型只改一行,流式输出让演示免于空等 40 秒。

Vercel AI SDK:客户的模型可能更换,但你写的工具会保留下来
分享微博

要点速览

  • AI SDK 是 Vercel 的开源 TypeScript 工具包,把文本生成、结构化数据生成、工具调用和 Agent 构建统一到一套 API 下。
  • 借助统一接口,更换模型提供商只需改一行代码;流式输出让用户不必盯着加载动画等上 5 到 40 秒。
  • 部署前要清楚:请求默认经由 Vercel AI Gateway 转发,应用也可以通过专用包直接调用提供商。
用 Vercel AI SDK 构建的 Agent 分层示意图。上面三层分别是带流式输出的聊天界面、带 execute 函数的工具和带 stopWhen 的循环,均标注为不变;模型声明层以橙色突出,标注为只需修改一行;最底层是由客户选择的提供商 OpenAI、Anthropic 和 Google。
据 AI SDK 文档,更换提供商只需修改模型声明,工具、循环和界面保持不变。来源:Vercel AI SDK README 与文档、AI SDK 5 发布公告。

LLM 应用的用户可能要盯着加载动画等上 5 秒、10 秒,甚至 40 秒。Vercel AI SDK 官方文档在解释为什么需要流式输出时,引用的正是这个细节。对前线部署工程师(FDE)来说,这几十秒往往就足以让一场客户演示泄了气。

AI SDK 是 Vercel 打造的 TypeScript 工具包,用于构建 AI 应用和 Agent;vercel/ai 仓库称它是由 Next.js 背后团队开发的免费开源库。2025 年 7 月 31 日,Lars Grammel、Nico Albanese 和 Josh Singh 发布 AI SDK 5 时表示,这个库的周下载量已超过 200 万次。

对 FDE 而言,比这个数字更重要的是一个再熟悉不过的场景:客户希望本周就看到能跑起来的东西,却还没决定用哪家的模型。AI SDK 正是为这种情况设计的。

一套 API 对接所有提供商

README 将 AI SDK 描述为“provider-agnostic”(与提供商无关)的工具包,即不绑定任何一家模型提供商。其核心 AI SDK Core 把四项工作统一到一套 API 下:生成文本、生成结构化对象、调用工具和构建 Agent。Providers and Models 页面指出,借助这套统一接口,更换提供商时调用代码可以保持不变。

AI SDK 5 的发布公告说得更具体:迁移到另一家提供商只需改一行。README 提到,请求默认经由 Vercel AI Gateway 转发,因此模型可以直接写成一个字符串。如果想直接调用提供商,也有 @ai-sdk/openai、@ai-sdk/anthropic 和 @ai-sdk/google 等专用包。

界面层面,README 列出的支持框架有 React、Svelte、Vue、Angular 和 Next.js。同时负责 Agent 后端和聊天界面的 FDE,可以用同一种语言写完两端。

构建一个订单查询 Agent

假设你在为一家物流公司工作。对方希望客服人员输入“订单 4471 在哪里?”,就能得到基于真实数据的答案,而不是模型编造的答案。

文档将工具定义为模型可调用、用于完成特定任务的对象。模型判断需要某个工具时,会发出一个工具调用;如果该工具带有 execute 函数,SDK 会自动执行它。下面的示意只用来说明 Agent 的结构(lookupOrder 意为“查询订单”,orderId 意为“订单 ID”);具体函数名和参数请以 ai-sdk.dev 上的文档为准。

// 结构示意,并非可直接运行的代码
const lookupOrder = {
  description: '根据订单 ID 查询订单的当前位置',
  execute: async ({ orderId }) => callInternalApi(orderId), // 客户的 API
};

const result = await runAgent({
  model: '<provider>/<model-name>', // 切换模型时唯一需要修改的一行
  tools: { lookup_order: lookupOrder },
  stopWhen: /* 停止条件,例如达到一定步数后停止 */,
  prompt: '订单 4471 在哪里?',
});

第一个要点在 description 这一行:模型靠它来选择工具,描述含糊,模型就会调错工具,或者干脆不调用。第二个要点在 execute:Agent 在这里接触客户的真实系统,要处理订单 ID 不存在的情况,不能留给模型去猜。

第三个要点是循环。Agent 可能调用工具、读取结果、再次调用,如此往复永不停止。AI SDK 5 新增了 stopWhen 和 prepareStep 两种循环控制机制;实践中的建议是,在让 Agent 接触真实数据之前,一定先通过 stopWhen 设置停止条件。

最后,打开流式输出,让答案逐步呈现,而不是等几十秒后一次性出现。如果下周客户出于价格或数据政策更换了提供商,你只需修改模型声明,工具、循环和界面都原样保留。

这个库解决不了的问题

API 相同,不代表各家模型的回答相同。一行代码就能换掉提供商,但每个模型选择工具的方式不同,回答的风格也各不一样。所以每次换模型后,都要重跑测试问题,再告诉客户一切正常。

数据路径是第二个要尽早提出的问题。请求默认经由 Vercel AI Gateway 转发,因此面对金融或医疗行业的客户,要一开始就问清对方能否接受中间层。如果不能,直接调用提供商的专用包更稳妥。

最后是语言。这是一个 TypeScript 工具包,如果客户的工程团队完全使用 Python,引入新技术栈带来的维护成本可能高于收益。推荐之前,先问清楚你离开后由哪个团队负责这份代码。

先学什么

合理的顺序是:先学工具,再学循环,最后学流式输出。工具是 Agent 接触客户真实系统的地方,也最容易出错。能写出可靠的 execute 函数之后,再理解 stopWhen 和 prepareStep 就容易得多。

简历上写一句“用过 AI SDK”说明不了什么。不如写清成果,例如:“构建了与提供商无关的 Agent,在两个模型之间切换而无需重写工具逻辑,并用 stopWhen 限定了循环。”

阅读 FDE 岗位描述时,留意“multi-model”“streaming UI”“TypeScript agents”这类字眼,这些正是直接用到这项技能的地方。

对客户来说,选哪个模型往往只是临时决定;你为他们写的工具和循环控制,会用得更久。

这篇文章对你有帮助吗?

6 个信源
路线图上的下一篇 · 阶段 3: AI 应用Pydantic AI 把错误的工具调用拦在客户系统之外类型化工具先校验参数再执行代码;换模型只需改一个字符串,证明安全却要靠评测和锁定版本。