订单已取消,AI 助手为何还说在配送
先别急着怪模型,查查它读的是哪个副本:CAP 定理暴露出一个没人刻意做过的一致性选择。
要点速览
- AI 助手看到的数据落后于源系统,通常是因为系统选择了可用性而非一致性,问题不在模型。
- 分区容错是必选项。真正的选择只发生在网络故障时:要 C 还是要 A。
- 强一致的代价更高:DynamoDB 强一致读的费用是最终一致读的两倍,而且 GSI 不支持强一致读。
客户的运营负责人发来一张截图。她刚在订单管理系统里取消了一个订单,随即向你们团队部署的 AI 助手询问这个订单。助手回答说订单“正在派送”。她的问题很直接:“这个机器人到底读的是不是真实数据?”
很多工程师第一反应是模型在胡编。改提示词之前,先排查另一种可能:模型如实读取了交给它的数据,只是那份数据是一个尚未更新的副本。
这就是前线部署工程师(FDE)需要理解 CAP 定理和一致性级别的原因。目的不是应付面试,而是给这位运营负责人一个诚实的答复,然后修对地方。
CAP 真正在问你什么?
CAP 有三个字母,但流行的说法“三选二”容易误导人。Henry Robinson 的 CAP FAQ 将一致性(Consistency)定义为线性一致性:系统的表现就像运行在一台机器上。Robert Greiner 的说法更好记:读操作总能返回最近一次写入。
CAP 里的可用性(Availability)也比日常含义更严格:发往未故障节点的每个请求都必须得到响应。响应可以花任意长的时间,但返回错误不算数。
P,即分区容错(Partition tolerance),不是可选项。Greiner 说得很直白:网络并不可靠,所以分布式系统必须容忍分区。CAP FAQ 说得更进一步:如果你把自己的分布式数据库描述为“CA”,那你一定误解了什么。
于是只剩一个真正的问题:节点之间的网络断开时,系统是拒绝回答以保证正确(CP),还是用手头的数据回答,哪怕数据可能已经过期(AP)?
网络正常,事情也没完
有一点常被忽略。CAP FAQ 强调,这个定理并不涉及分区是常见还是罕见。它描述的是系统在最糟糕的时刻必须做出的选择,并不告诉你这种权衡一天里会出现多少次。
所以要把两件事分开。CP 与 AP 描述的是网络分区时系统的行为;强一致读与最终一致读(例如下文介绍的 DynamoDB ConsistentRead 参数)则是每次读取的设置,即使网络完全正常也同样起作用。
在实际工作中,客户日常感受到的正是第二种一致性。强一致性保证读取能立即看到变更,代价是可用性更低、延迟更高,适合转账这类场景。弱一致性不保证下一次读取能看到变更,换来的是高可用和低延迟。
最终一致性是弱一致性的一种。更新最终会出现,但在那之前,数据可能同时存在多个相互冲突的版本。Greiner 点明了其中的机制:选择 AP,就意味着返回可能已过期的本地数据。AI 助手正是这样落后于源系统的。
示例:追踪一个已取消的订单
设想这样一个架构:客户的订单系统写入 Region A 的 DynamoDB 全局表。AI 助手部署在离用户更近的 Region B,通过 get_order_status 工具读取 Region B 的副本。
AWS 文档说明,全局表在默认模式下,变更通常在一秒内复制到其他副本,且跨 Region 只保证最终一致。
假设员工在 10:00:00.000 取消订单,在 10:00:00.400 向助手输入问题。如果副本还没收到这次变更,工具读到的就是“正在派送”。模型随后基于错误的数据,给出了一个忠实的回答。
同一个 Region 内也有同样的陷阱。DynamoDB 的读取默认是最终一致的,结果可能反映不出刚刚完成的写入;稍后再读,新版本才会出现。如果需要强一致读,必须显式请求:
import boto3
table = boto3.resource("dynamodb").Table("orders")
def get_order_status(order_id: str, fresh: bool = False) -> dict:
resp = table.get_item(
Key={"order_id": order_id},
ConsistentRead=fresh, # True = 强一致读,默认为 False
)
return resp.get("Item", {})
文档对代价写得很清楚:最终一致读的费用是强一致读的一半,而且全局二级索引(GSI)不支持强一致读。如果你的工具通过以客户手机号为键的 GSI 查询订单,上面的 fresh=True 帮不了你,必须再按主键重新查一次订单。
针对跨 Region 的问题,AWS 提供了 MRSC 模式:写入先同步复制到其他 Region,然后才返回。这样代价就转移到了写入端:客户的系统多等一会儿,换来助手读得更准。
在客户现场落地的五个步骤
第一,梳理数据路径,从数据写入的位置一直到助手读取的位置。每一跳(副本、缓存、搜索索引、夜间同步的数据管道)都可能让数据落后。记录下每一跳实际观测到的延迟。
第二,给助手将要收到的问题分类。按业务问题分类,而不是按数据表分类:
| 问题类型 | 示例 | 应采用的一致性 |
|---|---|---|
| 涉及资金或法律后果 | “这个订单退款了吗?” | 强一致,从源系统读取 |
| 刚发生变化的业务状态 | “我刚取消的订单取消成功了吗?” | 强一致,按主键查询 |
| 参考信息查询 | “退货政策是什么?” | 最终一致即可 |
| 汇总报表 | “本周取消了多少订单?” | 最终一致,并明确标注时间戳 |
第三,去问客户,而不是自己拍板。Greiner 指出,CP 与 AP 的取舍取决于业务需求:需要原子读写时选一致性,业务能容忍复制延迟时选可用性。一个好用的问题是:“如果助手用几秒前的数据回答,最坏会发生什么?”
第四,让工具同时返回数据的时间戳,并要求模型在回答敏感问题时说明,例如“根据 10:00:00 更新的数据”。
第五,接受 CP 系统在等待分区节点时可能报错或超时。提前为这种情况写好得体的回复,不要让 Agent 自己去猜。
常见错误
最常见的错误是怪模型、改提示词。再好的提示词也无法让过期的副本变新。动提示词之前,先看看工具返回了什么。
第二个错误是“为了保险”处处开启强一致。读取费用翻倍,延迟增加,而在 GSI 上根本开不了。大多数参考类问题并不需要它。
第三个错误是只在单 Region 的开发环境里测试,那里的复制延迟几乎看不出来。“我刚取消的订单还在派送”这类 bug,只有真实用户写入后立刻提问时才会出现,而内部演示很少这样操作。
最后一个错误是忘了最终一致性可能产生相互冲突的版本。如果助手还有写权限,比如修改收货地址,那么在给 Agent 这项权限之前,必须先弄清系统如何处理两次重叠的写入。
小练习
选一个你熟悉的业务,比如电子钱包的客服机器人。写下用户常问的五个问题,每个问题记下三点:数据存在哪里;助手应采用强一致读还是最终一致读;如果读到几秒前的数据会怎样。
然后从归入强一致组的问题里挑一个,问问自己:如果这次查询必须经过二级索引,你会怎样重新设计工具?做完之后,你手里就有一张和第二步类似的表格,可以直接带进第一次需求调研会。
把这项技能写进简历
阅读 FDE 岗位描述时,如果看到“integrate with customer systems of record”或“real-time data”这类字眼,准备好一个你处理过期数据的故事。这也是反问雇主的好时机:他们的 Agent 是从源系统读,还是从副本读?
简历上写一句“按新鲜度要求将 Agent 的查询分为 4 组,并将退款相关查询改为强一致读”,比任何“精通分布式系统”都更有说服力。
下次有人问“这个机器人读的是不是真实数据”,别只回答“是”或“不是”。告诉他们它读到的数据是什么时候写入的,再问一句:这个延迟,他们认可过吗?
这篇文章对你有帮助吗?
感谢你的反馈!