FDE Times 数据在招 FDE 职位 924▲33 近 7 天在招职位数的变化(同口径比较):不计入本周新开始追踪的公司的职位近 7 天新增 80在招公司 196支持远程 25%美国薪资中位数 $200k招聘最多 Databricks 107
ENVI

前线部署工程师(FDE)的专业媒体

技能指南 · 指南

第一次查客户数据库,营收为什么总算错

这张表可能只是一个分片,客户可能在另一个库,复制来的区域列也可能从未更新。

分享微博

要点速览

  • 联邦按功能拆分;分片把一张表拆成 schema 相同的多个部分。单张表大到一定程度后,联邦就无能为力,只剩分片可选。
  • 分片键是最重要的设计决策,修改代价极高,因此它能告诉你客户通常沿哪个维度查询数据。
  • 跨分片查询的速度取决于最慢的分片,两种拆分方式都会让 JOIN 更难,所以写 SELECT 之前先摸清数据分布。
流程图:“上月各区域营收”这个问题扇出到三个 orders 分片(分片键 customer_id),每个分片都带有一列重复的 customer_region。结果通过累加 SUM 和 COUNT 合并,之后才计算平均值。对平均值求平均得到 75;正确结果约 50.5(10 个订单平均 100,1,000 个订单平均 50)。底部说明:联邦把 customers 和 products 放在不同数据库,因此要在应用层或数据仓库中关联,而不是用 JOIN;反规范化让 customer_region 记录下单时的区域,因此需要问财务要的是购买时区域还是当前区域。
一个营收问题贯穿三种技术:要扇出到各分片,合并后再求平均,关联库外的数据,并核实重复列反映的是哪个时间点。

设想你在一家零售客户那里的第一周。你拿到只读权限,要做一个能回答“上月各区域营收”的智能体。你写下 SELECT ... JOIN customers ... GROUP BY region,一跑,结果比财务报表低得离谱。

查询没有语法错误,数据库也没坏。你读的 orders 表可能只是其中一个分片;customers 可能完全在另一个数据库里;orders 里的 region 列也可能是很久以前复制过来、之后再没更新过的。

要弄清原因,先得分清两种拆分数据库的方式。联邦(federation)按功能拆库:用户放一处,订单放另一处。分片(sharding)把同一张表的数据分到多个 schema 相同的数据库,每个库各存一部分。

当某个功能或某张表大到一定程度,联邦就不管用了,这时分片才成为选项。但对前线部署工程师(FDE)来说,现实问题很少是“该选哪种”,而是客户已经选了什么,以及这会怎样改变你的查询。

联邦与分片有什么区别?

打开客户系统时,下面这张表是识别两种技术最快的办法。

维度 联邦 分片
按什么拆分 业务功能 数据行,每个分片存一部分
Schema 每个库有自己的 schema 所有分片的 schema 相同
典型痕迹 每个库以领域命名:users、products、orders 多个结构相同的库,名称带编号
JOIN 跨两个库关联数据更复杂 跨分片查询的速度取决于最慢的分片
何时失效 某个功能或某张表变得过大 数据堆积在少数几个分片上
你的查询要做什么 在应用层或数据仓库里关联 扇出查询,用 SUM 和 COUNT 合并

据 system-design-primer 所述,两者都需要修改应用逻辑。联邦也被描述为一种让多个物理数据库看起来像一个逻辑数据库的方式,所以如果客户的数据访问层把“数据分散在多处”这一事实隐藏了起来,不必意外。

客户的数据库为什么不再是一整块?

MongoDB 指出,SQL 数据库传统上靠纵向扩展:给单台服务器加 CPU、存储或内存。一台服务器扛不住时,客户就只能把数据拆到多个地方,联邦和分片都是拆分的办法。

第三种技术常常与它们相伴:反规范化(denormalization),这是在已规范化的数据库上为提升性能而采用的策略。它以牺牲部分写入性能为代价,换来更快的读取。

三者经常同时出现。Azure 本身就建议分片设计做反规范化,让经常一起查询的实体(比如客户及其订单)位于同一个分片。所以发现其中一种技术时,去找找另外两种。

分片键揭示客户查询数据的主轴

Azure 称分片键是最重要的设计决策。日后要改,客户通常得把全部数据迁移到新的分片布局,这在线上系统里成本高、风险大。因此,分片键反映了客户的工程团队押注大多数查询会沿哪个维度进行。

如果客户按 customer_id 分片,“客户 X 的订单”这类问题只落在一个分片上。而你的问题,即所有客户按区域汇总营收,必须遍历每个分片。Azure 指出,即使查询并行执行,整体延迟也由最慢的分片决定。

分片策略同样值得一问。Azure 列出四种:查找(lookup,也叫基于目录,用一张映射表把请求路由到存有数据的分片)、范围(range)、哈希(hash)和地理(geographic)。如果是查找策略,分片映射表通常是你最先该要的文档。

如果客户用 hash(key) mod N 拆分,增加分片的代价可以自己算。从 4 个分片增加到 5 个,只有当 h mod 4 等于 h mod 5 时,一个键才不需要移动。

由于 20 是 4 和 5 的最小公倍数,只需检查 h mod 20 的 20 个可能取值:其中 0、1、2、3 这四个满足条件,其余 16 个不满足。

如果哈希分布均匀,只有约 4/20 的键原地不动,也就是约 80% 的键需要迁移。这个数字之所以重要,是因为数据迁移期间,一个订单可能暂时位于旧分片、新分片,或者两边都有。在相信某个总数之前,先问清是否有迁移正在进行。

实例:按区域统计营收

回到那家假想的零售客户。读了一轮连接字符串、和 DBA 聊过之后,你可以画出全貌:orders 按 customer_id 分成 3 个分片;customers 和 products 以联邦方式各占一个独立数据库;orders 有一列 customer_region,在创建订单时从 customers 复制而来。

有了这列重复数据,你不必跨库 JOIN 客户数据库,这正是人们做反规范化的原因。剩下的就是向每个分片扇出查询并合并结果:

from collections import defaultdict

SHARDS = ["orders_shard_0", "orders_shard_1", "orders_shard_2"]

SQL = """
SELECT customer_region AS region,
       SUM(total)      AS revenue,
       COUNT(*)        AS n_orders
FROM orders
WHERE order_date >= %s AND order_date < %s
GROUP BY customer_region
"""

def revenue_by_region(start, end):
    agg = defaultdict(lambda: {"revenue": 0, "n_orders": 0})
    for dsn in SHARDS:
        for region, revenue, n in run_query(dsn, SQL, [start, end]):
            agg[region]["revenue"] += revenue
            agg[region]["n_orders"] += n
    for r in agg.values():
        r["avg_order"] = r["revenue"] / r["n_orders"]
    return dict(agg)

要注意的细节是计算 avg_order 的那一行。每个分片只返回 SUM 和 COUNT,平均值在合并之后再算。

假设分片 0 有 10 个订单,平均 100;分片 1 有 1,000 个订单,平均 50。两个平均值的平均是 75,而正确结果是 (1,000 + 50,000) / 1,010,约 50.5。

再看反规范化的那一列。customer_region 是下单时客户所在的区域。如果客户从北区搬到南区,他的旧订单仍然标着北区。这是个业务问题:财务要的是按购买时区域统计的营收,还是按当前区域?在智能体替他们作答之前,先问清楚。

假设他们还需要按产品类别统计营收,而类别只存在于 products 数据库中。这时联邦就会添麻烦,因为跨两个库 JOIN 更复杂。一个务实的做法是把 product_id → category 映射表(通常不大)拉到内存或数据仓库,再在应用层合并。

第一次查询前的五个步骤

第一步是画地图:有多少个数据库,每个库承担什么功能,哪些表做了分片。连接字符串、ORM 配置文件以及 orders_shard_07 这样的名字是最快的线索。第二步是找到分片键和分片策略,然后问清是否有数据迁移正在进行。

第三步是列出所有重复列,并追溯各自的来源:何时更新、由哪个任务更新、是否存在滞后。

第四步是把每个业务问题归入三类之一:只涉及单个分片、需要扇出、需要从多个功能库关联数据。

最后一步是和客户约定数据新鲜度:从多处汇总出的数字,允许比源系统滞后多久。这份约定最好在智能体回答第一个问题之前落成书面文字。

FDE 的常见错误

最常见的错误是以为自己读到了全部数据,实际上只读了一个分片。第二个是对平均值求平均,或者在每个分片上跑 COUNT(DISTINCT) 再把结果相加,而同一个值可能出现在多个分片上。

第三个更难察觉:在高峰时段对生产环境跑重型扇出查询。数据可能分布不均,一个“热”分片会同时拖慢你的查询和客户的系统。运行前先问有没有只读副本。

最后一个是在第一周就提议“把所有东西合并到一个库里,整齐一点”,或者反过来,“加更多分片来提速”。Azure 指出,分片会带来显著且永久的复杂性,并列出了不适合分片的情形,包括瓶颈在读取端时。客户的系统是真实权衡的结果。

联邦算不算一种分片?

不完全算,但别和客户争术语。High Scalability 在 2007 年的一篇文章中把联邦和分片归为分区(partitioning)的两种特例,所以客户可能会混用这三个词。问清数据是按功能拆还是按行拆,然后自己准确记录下来。

那反规范化是设计不佳的标志吗?通常不是。重复列说明系统针对读取做了优化,你的任务是找到它的源列。

写在简历上,“搭建跨 3 个分片的扇出查询层,并与客户约定重复列和数据延迟的处理方式”这样一句,远比“熟悉分片”有说服力。

下次拿到客户数据库的访问权限时,别急着写 SELECT。花一个小时画出分片、功能库和重复列的地图,大部分正确答案都在那里。

这篇文章对你有帮助吗?

6 个信源
路线图上的下一篇 · 阶段 2: 全栈工程能力客户问 p99,别再答“跑得挺快”延迟、吞吐量和可扩展性都要用数字回答,可接受的延迟阈值由客户来定,不由你定。