一条 Monte Carlo 命令,可能悄悄删光客户的告警
每次 apply 都会替换整个命名空间里的监控,所以每个客户都要独立命名空间;业务规则仍得用 SQL 自己写。
要点速览
- 表监控能发现中断和停滞的管道,大多数集成无需任何配置即可直接生效。
- 每个客户的业务规则应放进验证监控:选一个模板,或者自己写 SQL。
- 监控即代码让规则可以版本化、可以评审,但每次 apply 都会替换命名空间里的全部监控。
使用 Monte Carlo 时,最危险的错误不是 SQL 写得不好,而是 apply 命令。根据监控即代码(monitors as code)文档,每次 apply 都会替换一个命名空间(namespace)里的全部监控。从客户 A 的代码仓库 apply 到客户 B 的命名空间,B 的告警就会悄无声息地消失。
对前线部署工程师(FDE)来说,这个运维细节比任何产品介绍幻灯片都重要。你驻场的任务是让客户的数据值得信任,然后交付一套在你离开后依然能正常运转的系统。
如果客户已经在用 Monte Carlo,或者你受托为他们搭建,第一件事是分清哪些工作工具会自动完成,哪些需要你自己写。
哪些自动运行,哪些需要自己写?
表监控是内置的一组监控,用来发现数据在哪里中断或停止流动。文档称,对大多数集成而言,表监控立即生效,无需用户配置。到新客户处的第一周,你就已经有了一张基础安全网:某张表一旦停止更新,就会有人知道。
但表监控对客户的业务一无所知。它不知道订单不可能在下单之前就送达,也不知道数据仓库里的收入必须与支付系统对得上。
这类规则应该写进验证监控。根据文档,你可以选择模板,也可以自己写 SQL;这类监控适合行级检查、特定业务逻辑,或跨多个数据源比对指标。
Monte Carlo 自己的博客也把 SQL Rules 描述为针对特定场景添加自定义监控的方式,用来补充自动异常检测。简单说:自动化部分负责捕捉技术故障,你写的部分负责捕捉只有懂业务的人才能发现的错误。
为一家配送公司写一条规则
假设客户是一家配送公司,有一张 orders 表。通过客户调研,你了解到运营团队视为理所当然的三条规则:送达时间不能早于下单时间;已送达的订单必须有司机 ID;数据仓库中的每日订单总额必须与支付系统一致。
第一条规则可以写成一条 SQL 查询,直接返回违规的行:
SELECT order_id, created_at, delivered_at
FROM orders
WHERE delivered_at < created_at
AND created_at >= CURRENT_DATE - 1
这样写,告警触发时,值班工程师打开就能准确看到哪些订单有问题,不用猜。
第三条规则是跨数据源的指标比对。假设支付数据已经加载到同一个数据仓库的 payments 表中,大致可以这样写,只返回两边不一致的日期:
SELECT o.day, o.order_total, p.payment_total
FROM (
SELECT DATE(created_at) AS day, SUM(amount) AS order_total
FROM orders
WHERE created_at >= CURRENT_DATE - 7
GROUP BY 1
) o
JOIN (
SELECT DATE(paid_at) AS day, SUM(amount) AS payment_total
FROM payments
WHERE paid_at >= CURRENT_DATE - 7
GROUP BY 1
) p ON o.day = p.day
WHERE o.order_total <> p.payment_total
两条查询都刻意限定了时间窗口:第一条只看昨天以来的订单,第二条比对最近七天,便于看出是哪一天出现了偏差。原因在于,MotherDuck 的集成文档指出,查询复杂度和结果集大小会影响监控性能。
每次运行都扫描全部订单历史的规则会很慢,还会消耗客户的资源,所以要限定范围,只返回处理事故所需的列。
MotherDuck 描述的工作流程,也正是在客户现场应有的工作顺序:先接入数据源,再为表、数据是否按时更新或需要跟踪的指标创建自定义 SQL 监控。
客户的规则应该放在 Git 里
在 UI 中手动创建规则很快,但不便交接。Monte Carlo 支持用 YAML 把监控定义为代码,CLI 读取 YAML 文件,把声明的状态同步到 Monte Carlo。这样,每个客户的规则都有版本、有 pull request,上线前有人评审。
下面的示例只用来说明代码仓库可以怎样组织;具体字段名和命令语法,使用前请对照监控即代码文档核实:
# monitors/delivery-co/orders.yaml
namespace: delivery-co-orders
monitors:
- name: delivered_before_created
type: validation
sql: |
SELECT order_id, created_at, delivered_at
FROM orders
WHERE delivered_at < created_at
AND created_at >= CURRENT_DATE - 1
- name: daily_revenue_matches_payments
type: validation
sql: |
-- 上文的跨数据源查询
开头提到的 apply 命令在这里就变得关键。由于每次 apply 都会替换命名空间里的全部监控,文档建议为每个团队或每条管道单独设置命名空间。在上面的示例中,命名空间同时带上了客户名和管道名,支付团队的文件就永远不会覆盖订单团队的规则。
文档还规定,跳过确认步骤的 --auto-yes 参数只应在 CI 环境中使用。合理的约定是:pull request 通过审批后由 CI 执行 apply,而在个人电脑上任何人都不跳过确认。命名空间的命名规范要在第一天定好,赶在写第二条规则之前。
先学什么,简历上写什么
最值得学的不是 Monte Carlo 的界面,而是把客户一句“已送达的订单必须有司机”转化为一条可测试、运行成本低、易读的 SQL 检查的能力。
这项能力可以迁移到任何数据质量工具上。而随着 Monte Carlo(现已使用 montecarlo.ai 域名)把自己定位为监控、排查和改进 AI 智能体及其底层数据的工具,这项能力的价值还在上升。
阅读 FDE 岗位描述时,留意 data quality、observability、monitors as code 或 CI/CD for data 这类关键词。简历上不要只写“用过 Monte Carlo”,而要写清楚你把客户的多少条业务规则编写成了在 Git 中版本化管理的监控,以及你如何组织命名空间,让多个团队协作而互不干扰。
自动告警告诉你管道还在运行。你留在代码仓库里的规则,才能在你离开项目很久之后,继续告诉客户团队数据依然正确。
这篇文章对你有帮助吗?
感谢你的反馈!