FDE Times 数据在招 FDE 职位 873▼9 近 7 天在招职位数的变化(同口径比较):不计入本周新开始追踪的公司的职位近 7 天新增 55在招公司 181支持远程 25%美国薪资中位数 $200k招聘最多 Databricks 98
ENVI

前线部署工程师(FDE)的专业媒体

工具

客户不看 notebook,就给他一个 Gradio 演示

几行 Python 就能让客户用自己的数据试模型,但分享链接一周后过期,模型还跑在你的电脑上。

分享微博

要点速览

  • Gradio 能把一个 Python 函数变成网页演示,要求 Python 3.10 或更高版本。
  • share=True 会生成公开链接,模型仍在你的机器上运行,链接一周后过期。
  • 同一个应用可以作为 API 使用,可以挂载到 FastAPI 中,也可以作为 MCP 服务器运行,用于 Agent 演示。
Gradio 演示的两种状态。左侧使用 share=True,模型在你的机器上运行,通过公开链接对外开放,链接 7 天后过期,合上笔记本演示就会中断。右侧把 Gradio 演示挂载到客户的 FastAPI 应用中,与该应用在同一处运行。
Gradio 的分享链接只能用一周,而且你的机器必须一直开着。把演示挂载到客户的 FastAPI 应用中,它就和客户的应用一起运行。数据是否留在原地,取决于客户把应用托管在哪里。来源:Gradio 官方文档,经本文整理。

很多前线部署工程师(FDE)的项目都会卡在同一个地方:模型或智能体在 notebook 里已经跑通,但客户那边拍板的人不看 notebook。他们需要一个能输入的框、一个能点的按钮,以及一个看得见的结果。

Gradio 正是为这一刻而生的。官方文档称它是一个开源 Python 库,可以为模型、API 或任意 Python 函数快速搭建演示或 Web 应用。官网首页的口号是:几分钟内为机器学习模型做出网页界面。

对 FDE 来说,价值不在界面好不好看,而在于客户能用自己的数据亲手试模型,而不是看你操作。所以值得弄清楚这个工具到底能做什么,又会在哪里掉链子。

一个函数,一个界面,一个链接

Gradio 要求 Python 3.10 或更高版本,用 pip 安装。假设你在为一家保险公司做项目,已经写好了一个函数 classify_claim,输入理赔描述,返回风险等级。界面只需要再加几行:

import gradio as gr

def classify_claim(description: str) -> str:
    # 在这里调用你的模型或智能体
    return "中等风险"

demo = gr.Interface(fn=classify_claim, inputs="text", outputs="text")
demo.launch(share=True, auth=("insurer", "change-this-password"))

gr.Interface 是高层 API,适合这种单输入、单输出的演示。在 launch() 中设置 share=True,Gradio 就会生成一个公开 URL,模型则继续在你的机器上运行。auth 参数接收一组用户名和密码,足以避免一个使用客户私有数据的演示直接暴露在互联网上。

代码最后两行会改变整个项目的节奏。会前,你把链接发给客户对接人,请他贴进十条真实理赔记录。会上,讨论围绕模型判错的案例展开,而不是围绕幻灯片。

链接只活七天,你的电脑还不能休眠

这份便利背后藏着两个坑。一是分享链接一周后过期。二是模型跑在你的机器上,合上笔记本,演示就断了,而这可能恰好发生在对接人的老板打开链接的时候。

如果需要长期有效的链接,Gradio 的指南推荐 Hugging Face Spaces。Hugging Face 在 2021 年 12 月宣布收购了 Gradio。但在把任何东西推到外部平台之前,先问客户的安全团队数据可以去哪里。很多客户的回答是:哪里都不能去。

对这类客户,更好的做法是把演示挂载到客户已经在运行的 FastAPI 应用中的某个路径下。这样演示就和他们的应用跑在一起。数据是否留在客户系统内部,取决于这个应用部署在哪里,所以在做任何承诺之前,先问清客户把它托管在哪儿。

auth 密码也只是一层基础防护。把它当成会议室门上的锁,而不是一套访问控制系统。

演示需要升级的时候

当你需要多个步骤、多个字段或自定义布局时,Interface 就不够用了。这时 Gradio 提供了更底层的 API:Blocks,可以自己安排界面布局和数据流。如果要做一个智能体演示,同时展示问题、中间步骤和最终答案,Blocks 通常是更好的选择。

演示也不只是给人点的。几乎所有 Gradio 应用都能当作 API 使用,客户的工程团队可以直接调用他们刚刚试过的那个东西。

对做智能体的人来说,最重要的功能藏在另一个参数后面。Gradio 可以把应用作为 MCP 服务器运行,每个 API 端点都会自动变成一个 MCP 工具。上面的理赔分类器既可以是给人用的界面,也可以是客户的智能体调用的工具。

先学什么

比较合理的顺序是:先学 Interface,再学带 share 和 auth 的 launch(),然后把应用当作 API 调用,最后才是 Blocks 和 MCP。Gradio 采用 Apache-2.0 许可证,源码在 GitHub 的 gradio-app 组织下,文档说不清楚时可以直接看代码。

如果你想证明自己能为客户快速做原型,Gradio 是一条低成本的路。一个附带可运行演示的公开仓库,再加一句话说明这个演示帮谁做了什么决定,比简历上写“精通 Python”更有说服力。

别把演示当成产品。它的任务是让会议尽早进入真正的问题:模型在哪里出错,客户能不能接受。

这篇文章对你有帮助吗?

6 个信源
路线图上的下一篇 · 阶段 3: AI 应用Arcade.dev 让 Agent 按每个用户自己的权限行事调用 API 最容易,难的是 Agent 用谁的令牌、能做什么,令牌又由谁保管。