FDE Times 数据在招 FDE 职位 924▲33 近 7 天在招职位数的变化(同口径比较):不计入本周新开始追踪的公司的职位近 7 天新增 80在招公司 196支持远程 25%美国薪资中位数 $200k招聘最多 Databricks 107
ENVI

前线部署工程师(FDE)的专业媒体

工具

一条 Monte Carlo 命令,可能悄悄删光客户的告警

每次 apply 都会替换整个命名空间里的监控,所以每个客户都要独立命名空间;业务规则仍得用 SQL 自己写。

分享微博

要点速览

  • 表监控能发现中断和停滞的管道,大多数集成无需任何配置即可直接生效。
  • 每个客户的业务规则应放进验证监控:选一个模板,或者自己写 SQL。
  • 监控即代码让规则可以版本化、可以评审,但每次 apply 都会替换命名空间里的全部监控。
前后对比示意图。之前:订单规则和支付规则共用 delivery-co 命名空间,执行 apply orders.yaml 后支付规则被清除。之后:每条管道有自己的命名空间 delivery-co-orders 和 delivery-co-payments,执行 apply orders.yaml 后支付规则保持不变。
根据 Monte Carlo 的监控即代码文档,每次 apply 都会替换命名空间内的全部监控,因此文档建议为每个团队或每条管道单独设置命名空间。

使用 Monte Carlo 时,最危险的错误不是 SQL 写得不好,而是 apply 命令。根据监控即代码(monitors as code)文档,每次 apply 都会替换一个命名空间(namespace)里的全部监控。从客户 A 的代码仓库 apply 到客户 B 的命名空间,B 的告警就会悄无声息地消失。

对前线部署工程师(FDE)来说,这个运维细节比任何产品介绍幻灯片都重要。你驻场的任务是让客户的数据值得信任,然后交付一套在你离开后依然能正常运转的系统。

如果客户已经在用 Monte Carlo,或者你受托为他们搭建,第一件事是分清哪些工作工具会自动完成,哪些需要你自己写。

哪些自动运行,哪些需要自己写?

表监控是内置的一组监控,用来发现数据在哪里中断或停止流动。文档称,对大多数集成而言,表监控立即生效,无需用户配置。到新客户处的第一周,你就已经有了一张基础安全网:某张表一旦停止更新,就会有人知道。

但表监控对客户的业务一无所知。它不知道订单不可能在下单之前就送达,也不知道数据仓库里的收入必须与支付系统对得上。

这类规则应该写进验证监控。根据文档,你可以选择模板,也可以自己写 SQL;这类监控适合行级检查、特定业务逻辑,或跨多个数据源比对指标。

Monte Carlo 自己的博客也把 SQL Rules 描述为针对特定场景添加自定义监控的方式,用来补充自动异常检测。简单说:自动化部分负责捕捉技术故障,你写的部分负责捕捉只有懂业务的人才能发现的错误。

为一家配送公司写一条规则

假设客户是一家配送公司,有一张 orders 表。通过客户调研,你了解到运营团队视为理所当然的三条规则:送达时间不能早于下单时间;已送达的订单必须有司机 ID;数据仓库中的每日订单总额必须与支付系统一致。

第一条规则可以写成一条 SQL 查询,直接返回违规的行:

SELECT order_id, created_at, delivered_at
FROM orders
WHERE delivered_at < created_at
  AND created_at >= CURRENT_DATE - 1

这样写,告警触发时,值班工程师打开就能准确看到哪些订单有问题,不用猜。

第三条规则是跨数据源的指标比对。假设支付数据已经加载到同一个数据仓库的 payments 表中,大致可以这样写,只返回两边不一致的日期:

SELECT o.day, o.order_total, p.payment_total
FROM (
  SELECT DATE(created_at) AS day, SUM(amount) AS order_total
  FROM orders
  WHERE created_at >= CURRENT_DATE - 7
  GROUP BY 1
) o
JOIN (
  SELECT DATE(paid_at) AS day, SUM(amount) AS payment_total
  FROM payments
  WHERE paid_at >= CURRENT_DATE - 7
  GROUP BY 1
) p ON o.day = p.day
WHERE o.order_total <> p.payment_total

两条查询都刻意限定了时间窗口:第一条只看昨天以来的订单,第二条比对最近七天,便于看出是哪一天出现了偏差。原因在于,MotherDuck 的集成文档指出,查询复杂度和结果集大小会影响监控性能。

每次运行都扫描全部订单历史的规则会很慢,还会消耗客户的资源,所以要限定范围,只返回处理事故所需的列。

MotherDuck 描述的工作流程,也正是在客户现场应有的工作顺序:先接入数据源,再为表、数据是否按时更新或需要跟踪的指标创建自定义 SQL 监控。

客户的规则应该放在 Git 里

在 UI 中手动创建规则很快,但不便交接。Monte Carlo 支持用 YAML 把监控定义为代码,CLI 读取 YAML 文件,把声明的状态同步到 Monte Carlo。这样,每个客户的规则都有版本、有 pull request,上线前有人评审。

下面的示例只用来说明代码仓库可以怎样组织;具体字段名和命令语法,使用前请对照监控即代码文档核实:

# monitors/delivery-co/orders.yaml
namespace: delivery-co-orders
monitors:
  - name: delivered_before_created
    type: validation
    sql: |
      SELECT order_id, created_at, delivered_at
      FROM orders
      WHERE delivered_at < created_at
        AND created_at >= CURRENT_DATE - 1
  - name: daily_revenue_matches_payments
    type: validation
    sql: |
      -- 上文的跨数据源查询

开头提到的 apply 命令在这里就变得关键。由于每次 apply 都会替换命名空间里的全部监控,文档建议为每个团队或每条管道单独设置命名空间。在上面的示例中,命名空间同时带上了客户名和管道名,支付团队的文件就永远不会覆盖订单团队的规则。

文档还规定,跳过确认步骤的 --auto-yes 参数只应在 CI 环境中使用。合理的约定是:pull request 通过审批后由 CI 执行 apply,而在个人电脑上任何人都不跳过确认。命名空间的命名规范要在第一天定好,赶在写第二条规则之前。

先学什么,简历上写什么

最值得学的不是 Monte Carlo 的界面,而是把客户一句“已送达的订单必须有司机”转化为一条可测试、运行成本低、易读的 SQL 检查的能力。

这项能力可以迁移到任何数据质量工具上。而随着 Monte Carlo(现已使用 montecarlo.ai 域名)把自己定位为监控、排查和改进 AI 智能体及其底层数据的工具,这项能力的价值还在上升。

阅读 FDE 岗位描述时,留意 data quality、observability、monitors as code 或 CI/CD for data 这类关键词。简历上不要只写“用过 Monte Carlo”,而要写清楚你把客户的多少条业务规则编写成了在 Git 中版本化管理的监控,以及你如何组织命名空间,让多个团队协作而互不干扰。

自动告警告诉你管道还在运行。你留在代码仓库里的规则,才能在你离开项目很久之后,继续告诉客户团队数据依然正确。

这篇文章对你有帮助吗?

5 个信源
路线图上的下一篇 · 阶段 6: 价值度量用 W&B Weave 把客户投诉变成可重跑的评测一个装饰器就能记下输入、输出和代码,随时翻出昨天失败的调用,证明修复确实有效。