客户还没选定模型,先写能用得更久的工具
Vercel AI SDK 用一套 API 接入各家模型,换模型只改一行,流式输出让演示免于空等 40 秒。

要点速览
- AI SDK 是 Vercel 的开源 TypeScript 工具包,把文本生成、结构化数据生成、工具调用和 Agent 构建统一到一套 API 下。
- 借助统一接口,更换模型提供商只需改一行代码;流式输出让用户不必盯着加载动画等上 5 到 40 秒。
- 部署前要清楚:请求默认经由 Vercel AI Gateway 转发,应用也可以通过专用包直接调用提供商。
LLM 应用的用户可能要盯着加载动画等上 5 秒、10 秒,甚至 40 秒。Vercel AI SDK 官方文档在解释为什么需要流式输出时,引用的正是这个细节。对前线部署工程师(FDE)来说,这几十秒往往就足以让一场客户演示泄了气。
AI SDK 是 Vercel 打造的 TypeScript 工具包,用于构建 AI 应用和 Agent;vercel/ai 仓库称它是由 Next.js 背后团队开发的免费开源库。2025 年 7 月 31 日,Lars Grammel、Nico Albanese 和 Josh Singh 发布 AI SDK 5 时表示,这个库的周下载量已超过 200 万次。
对 FDE 而言,比这个数字更重要的是一个再熟悉不过的场景:客户希望本周就看到能跑起来的东西,却还没决定用哪家的模型。AI SDK 正是为这种情况设计的。
一套 API 对接所有提供商
README 将 AI SDK 描述为“provider-agnostic”(与提供商无关)的工具包,即不绑定任何一家模型提供商。其核心 AI SDK Core 把四项工作统一到一套 API 下:生成文本、生成结构化对象、调用工具和构建 Agent。Providers and Models 页面指出,借助这套统一接口,更换提供商时调用代码可以保持不变。
AI SDK 5 的发布公告说得更具体:迁移到另一家提供商只需改一行。README 提到,请求默认经由 Vercel AI Gateway 转发,因此模型可以直接写成一个字符串。如果想直接调用提供商,也有 @ai-sdk/openai、@ai-sdk/anthropic 和 @ai-sdk/google 等专用包。
界面层面,README 列出的支持框架有 React、Svelte、Vue、Angular 和 Next.js。同时负责 Agent 后端和聊天界面的 FDE,可以用同一种语言写完两端。
构建一个订单查询 Agent
假设你在为一家物流公司工作。对方希望客服人员输入“订单 4471 在哪里?”,就能得到基于真实数据的答案,而不是模型编造的答案。
文档将工具定义为模型可调用、用于完成特定任务的对象。模型判断需要某个工具时,会发出一个工具调用;如果该工具带有 execute 函数,SDK 会自动执行它。下面的示意只用来说明 Agent 的结构(lookupOrder 意为“查询订单”,orderId 意为“订单 ID”);具体函数名和参数请以 ai-sdk.dev 上的文档为准。
// 结构示意,并非可直接运行的代码
const lookupOrder = {
description: '根据订单 ID 查询订单的当前位置',
execute: async ({ orderId }) => callInternalApi(orderId), // 客户的 API
};
const result = await runAgent({
model: '<provider>/<model-name>', // 切换模型时唯一需要修改的一行
tools: { lookup_order: lookupOrder },
stopWhen: /* 停止条件,例如达到一定步数后停止 */,
prompt: '订单 4471 在哪里?',
});
第一个要点在 description 这一行:模型靠它来选择工具,描述含糊,模型就会调错工具,或者干脆不调用。第二个要点在 execute:Agent 在这里接触客户的真实系统,要处理订单 ID 不存在的情况,不能留给模型去猜。
第三个要点是循环。Agent 可能调用工具、读取结果、再次调用,如此往复永不停止。AI SDK 5 新增了 stopWhen 和 prepareStep 两种循环控制机制;实践中的建议是,在让 Agent 接触真实数据之前,一定先通过 stopWhen 设置停止条件。
最后,打开流式输出,让答案逐步呈现,而不是等几十秒后一次性出现。如果下周客户出于价格或数据政策更换了提供商,你只需修改模型声明,工具、循环和界面都原样保留。
这个库解决不了的问题
API 相同,不代表各家模型的回答相同。一行代码就能换掉提供商,但每个模型选择工具的方式不同,回答的风格也各不一样。所以每次换模型后,都要重跑测试问题,再告诉客户一切正常。
数据路径是第二个要尽早提出的问题。请求默认经由 Vercel AI Gateway 转发,因此面对金融或医疗行业的客户,要一开始就问清对方能否接受中间层。如果不能,直接调用提供商的专用包更稳妥。
最后是语言。这是一个 TypeScript 工具包,如果客户的工程团队完全使用 Python,引入新技术栈带来的维护成本可能高于收益。推荐之前,先问清楚你离开后由哪个团队负责这份代码。
先学什么
合理的顺序是:先学工具,再学循环,最后学流式输出。工具是 Agent 接触客户真实系统的地方,也最容易出错。能写出可靠的 execute 函数之后,再理解 stopWhen 和 prepareStep 就容易得多。
简历上写一句“用过 AI SDK”说明不了什么。不如写清成果,例如:“构建了与提供商无关的 Agent,在两个模型之间切换而无需重写工具逻辑,并用 stopWhen 限定了循环。”
阅读 FDE 岗位描述时,留意“multi-model”“streaming UI”“TypeScript agents”这类字眼,这些正是直接用到这项技能的地方。
对客户来说,选哪个模型往往只是临时决定;你为他们写的工具和循环控制,会用得更久。
这篇文章对你有帮助吗?
感谢你的反馈!