FDE Times 数据在招 FDE 职位 882▼2 近 7 天在招职位数的变化(同口径比较):不计入本周新开始追踪的公司的职位近 7 天新增 52在招公司 185支持远程 25%美国薪资中位数 $200k招聘最多 Databricks 98
ENVI

前线部署工程师(FDE)的专业媒体

工具

两周客户试点,Cloud Run 让 FDE 免建集群

省下审批基础设施的时间可留给真正的问题,但先要问清服务是否有状态,并为冷启动做好准备。

与 Cloud Run 和 Google Cloud 相关的配图,配合讲述 FDE 如何在客户的 Google Cloud 上免建集群部署应用。
图片:Greg Bulla / Unsplash: 图片:Greg Bulla / Unsplash
分享微博

要点速览

  • Cloud Run 可以运行代码、函数或容器,无需创建集群,也不用管理基础设施。
  • 没有请求时,service 会缩容到零实例,下一个请求可能要等冷启动;设置最小实例数能减少冷启动,但待命实例仍要花钱。
  • Cloud Run 不支持 Kubernetes;如果应用依赖 Kubernetes,应考虑 GKE Autopilot。
两层决策树。第一个问题:应用是否依赖 Kubernetes?是,则选 GKE Autopilot。否,则接着问:它是否接收 HTTP 请求?是,用 Cloud Run service(空闲时缩容到零);否,用 Cloud Run job(运行到完成)。
Google 建议优先考虑无服务器方案。依赖 Kubernetes 的应用适合 GKE Autopilot。其余分为两类:service 接收 HTTP 请求,job 由手动或按计划触发,运行到完成。来源:Google Cloud 文档与架构指南。

设想这样一个场景:客户交给你一个 Google Cloud 项目、一个服务账号,外加两周时间做试点。客户团队里没人愿意再多运维一个 Kubernetes 集群。这时 Cloud Run 往往是最短的路径,但只有弄清它会在哪里出问题之后,才应该选它。

Google 把 Cloud Run 描述为一个全托管应用平台,可以运行代码、函数或容器。对前线部署工程师(FDE)来说,最有价值的一点是文档里的承诺:不用创建集群,也不用管理基础设施,就能把活干完。

在客户现场,少花一天去申请搭建基础设施的权限,就多一天去解决真正的问题。

service 等待请求,job 运行到完成

service 一直等待传入的请求。job 则用于可并行的任务,手动或按计划触发,一直运行到结束。

Google 在 2019 年的一篇博客中称,Cloud Run 很适合运行无状态的容器微服务,也就是不需要命名空间、节点管理等 Kubernetes 功能的那类服务。这篇文章年代较早,产品细节可能已有变化。即便如此,“这个服务有没有状态?”仍然是最先该问的问题。

一个具体的试点,逐步拆解

假设客户是一家保险公司,需要从理赔档案中提取信息。系统分两部分:一个 API 负责接收内部系统发来的文件,一个夜间任务负责重新处理全部积压数据。API 用 Cloud Run service,夜间任务用按计划运行的 Cloud Run job。

镜像该放在哪里?Google 推荐 Artifact Registry,并表示 Docker Hub 只应用于热门镜像。为客户自行构建的镜像不属于这一类,所以应推送到客户自己项目里的 Artifact Registry。

还有一个不起眼却有用的细节:Cloud Run 在部署时导入镜像,之后每次启动新实例都不会再从镜像仓库拉取。因此,即使镜像仓库恰好在服务需要扩容时出故障,扩容也不受影响。这一点应写进交给客户运维团队的运行手册。

客户希望服务只在内网可用

每家保险公司都会问:客户数据会不会经过互联网?答案在 ingress 设置里。在 All 模式下,所有请求都会被接受,包括从互联网直接访问 run.app URL 的请求。

在 Internal 模式下,来自其他来源(包括互联网)的请求无法通过 run.app URL、自定义 URL 或自定义域名访问该服务。

所以在第一次会议上就要问清楚:哪些系统会调用你的 API,它们位于客户网络的什么位置。然后对照 ingress 文档中对内部来源的定义核实答案,不要等到上线当天。

缩容到零:省钱,代价是冷启动

service 没有请求时,Cloud Run 连最后一个实例也会移除。于是新请求需要一个新实例。Google 文档也确认,请求有时必须等实例启动完成才能得到处理。Google 在 2020 年的一篇博客中同样承认,无服务器平台长期以来一直在首次响应延迟上做取舍。

根据文档,请求最多可能等待实例平均启动时间的 3.5 倍或 10 秒,取两者中较大者。比如,容器平均需要 2 秒启动,3.5 倍就是 7 秒。

7 秒小于 10 秒,所以请求最多可能要等 10 秒。如果周一上午的演示恰好是周末过后的第一个请求,那么等待的人就是客户。

在演示前安排一次定时“预热”调用也不可靠:如果这次调用之后再没有请求进来,最后一个实例仍可能被移除。

Google 推荐的减少冷启动的方法是设置最小实例数。OneUptime 博客上的一篇独立指南指出了其中的成本:不处理请求的待命实例按较低费率计费,但并不免费。

对于重要的演示,这是用一点成本换延迟,应该把这笔账向客户负责审批预算的人讲清楚。

何时该停下来,改选 GKE

Google 的参考架构对比了 Cloud Run 和 GKE Autopilot,并直接点明一项取舍:Cloud Run 不支持 Kubernetes。如果客户的应用需要命名空间或节点管理,不要硬塞进 Cloud Run。

首次试点的常见错误

Cloud Run 的大多数麻烦不在工具本身,而在于有些问题没有尽早问出来。

错误 为什么会出问题 正确做法
用 service 跑批处理 运行到完成正是 job 的用途 把批处理拆成 job,手动或按计划运行
很晚才问谁会调用服务 使用 Internal ingress 时,互联网无法访问 run.app URL 第一次会议就问,上线前核实
未经测试就相信定时“预热” 请求停止后实例仍可能被移除 考虑最小实例数,彩排并测量首个请求
把私有镜像放在 Docker Hub Google 只推荐用 Docker Hub 存放热门镜像 使用 Artifact Registry
把依赖 Kubernetes 的应用硬塞进 Cloud Run Cloud Run 不支持 Kubernetes 这部分考虑 GKE Autopilot

先学什么

从容器入手:写一个精简的 Dockerfile,在本地跑起来,并保持服务无状态。接着彻底弄懂 service 和 job 的区别,然后是 ingress,因为客户的安全团队会在这里看得最仔细。最后,在自己的服务上实测冷启动。

简历上不要只写“Google Cloud”,要写具体的一行,例如:将文档提取 API 部署到 Cloud Run,采用 Internal ingress,并配置夜间处理 job,设置最小实例数以减少演示时段的冷启动。

当岗位描述要求在客户的 GCP 上完成部署时,这正是该准备好的经历。

Cloud Run 替你做不了工作中最难的部分,也就是理解客户的网络和流程。但它能分担一部分基础设施负担,让你有更多时间去啃这块硬骨头。

这篇文章对你有帮助吗?

8 个信源
路线图上的下一篇 · 阶段 5: 部署上线API 文档与真实流量对不上,交给 mitmproxy 裁决这款免费的 MIT 许可代理让在场所有人看到真实请求与响应,客户 IT 最先问的也是许可证。