# 订单已取消，AI 助手为何还说在配送

> 先别急着怪模型，查查它读的是哪个副本：CAP 定理暴露出一个没人刻意做过的一致性选择。

原文: https://fdetimes.net/zh/guides/cap-theorem-ai-assistant-stale-data/

客户的运营负责人发来一张截图。她刚在订单管理系统里取消了一个订单，随即向你们团队部署的 AI 助手询问这个订单。助手回答说订单“正在派送”。她的问题很直接：“这个机器人到底读的是不是真实数据？”

很多工程师第一反应是模型在胡编。改提示词之前，先排查另一种可能：模型如实读取了交给它的数据，只是那份数据是一个尚未更新的副本。

这就是前线部署工程师（FDE）需要理解 CAP 定理和一致性级别的原因。目的不是应付面试，而是给这位运营负责人一个诚实的答复，然后修对地方。

## CAP 真正在问你什么？

CAP 有三个字母，但流行的说法“三选二”容易误导人。Henry Robinson 的 CAP FAQ 将一致性（Consistency）定义为线性一致性：系统的表现就像运行在一台机器上。Robert Greiner 的说法更好记：读操作总能返回最近一次写入。

CAP 里的可用性（Availability）也比日常含义更严格：发往未故障节点的每个请求都必须得到响应。响应可以花任意长的时间，但返回错误不算数。

P，即分区容错（Partition tolerance），不是可选项。Greiner 说得很直白：网络并不可靠，所以分布式系统必须容忍分区。CAP FAQ 说得更进一步：如果你把自己的分布式数据库描述为“CA”，那你一定误解了什么。

于是只剩一个真正的问题：节点之间的网络断开时，系统是拒绝回答以保证正确（CP），还是用手头的数据回答，哪怕数据可能已经过期（AP）？

## 网络正常，事情也没完

有一点常被忽略。CAP FAQ 强调，这个定理并不涉及分区是常见还是罕见。它描述的是系统在最糟糕的时刻必须做出的选择，并不告诉你这种权衡一天里会出现多少次。

所以要把两件事分开。CP 与 AP 描述的是网络分区时系统的行为；强一致读与最终一致读（例如下文介绍的 DynamoDB ConsistentRead 参数）则是每次读取的设置，即使网络完全正常也同样起作用。

在实际工作中，客户日常感受到的正是第二种一致性。强一致性保证读取能立即看到变更，代价是可用性更低、延迟更高，适合转账这类场景。弱一致性不保证下一次读取能看到变更，换来的是高可用和低延迟。

最终一致性是弱一致性的一种。更新最终会出现，但在那之前，数据可能同时存在多个相互冲突的版本。Greiner 点明了其中的机制：选择 AP，就意味着返回可能已过期的本地数据。AI 助手正是这样落后于源系统的。

## 示例：追踪一个已取消的订单

设想这样一个架构：客户的订单系统写入 Region A 的 DynamoDB 全局表。AI 助手部署在离用户更近的 Region B，通过 `get_order_status` 工具读取 Region B 的副本。

AWS 文档说明，全局表在默认模式下，变更通常在一秒内复制到其他副本，且跨 Region 只保证最终一致。

假设员工在 10:00:00.000 取消订单，在 10:00:00.400 向助手输入问题。如果副本还没收到这次变更，工具读到的就是“正在派送”。模型随后基于错误的数据，给出了一个忠实的回答。

同一个 Region 内也有同样的陷阱。DynamoDB 的读取默认是最终一致的，结果可能反映不出刚刚完成的写入；稍后再读，新版本才会出现。如果需要强一致读，必须显式请求：

```python
import boto3

table = boto3.resource("dynamodb").Table("orders")

def get_order_status(order_id: str, fresh: bool = False) -> dict:
    resp = table.get_item(
        Key={"order_id": order_id},
        ConsistentRead=fresh,  # True = 强一致读，默认为 False
    )
    return resp.get("Item", {})
```

文档对代价写得很清楚：最终一致读的费用是强一致读的一半，而且全局二级索引（GSI）不支持强一致读。如果你的工具通过以客户手机号为键的 GSI 查询订单，上面的 `fresh=True` 帮不了你，必须再按主键重新查一次订单。

针对跨 Region 的问题，AWS 提供了 MRSC 模式：写入先同步复制到其他 Region，然后才返回。这样代价就转移到了写入端：客户的系统多等一会儿，换来助手读得更准。

## 在客户现场落地的五个步骤

第一，梳理数据路径，从数据写入的位置一直到助手读取的位置。每一跳（副本、缓存、搜索索引、夜间同步的数据管道）都可能让数据落后。记录下每一跳实际观测到的延迟。

第二，给助手将要收到的问题分类。按业务问题分类，而不是按数据表分类：

| 问题类型 | 示例 | 应采用的一致性 |
|---|---|---|
| 涉及资金或法律后果 | “这个订单退款了吗？” | 强一致，从源系统读取 |
| 刚发生变化的业务状态 | “我刚取消的订单取消成功了吗？” | 强一致，按主键查询 |
| 参考信息查询 | “退货政策是什么？” | 最终一致即可 |
| 汇总报表 | “本周取消了多少订单？” | 最终一致，并明确标注时间戳 |

第三，去问客户，而不是自己拍板。Greiner 指出，CP 与 AP 的取舍取决于业务需求：需要原子读写时选一致性，业务能容忍复制延迟时选可用性。一个好用的问题是：“如果助手用几秒前的数据回答，最坏会发生什么？”

**要点:** 数据延迟是一个业务决策。要让客户有意识地做出这个决定。

第四，让工具同时返回数据的时间戳，并要求模型在回答敏感问题时说明，例如“根据 10:00:00 更新的数据”。

第五，接受 CP 系统在等待分区节点时可能报错或超时。提前为这种情况写好得体的回复，不要让 Agent 自己去猜。

## 常见错误

最常见的错误是怪模型、改提示词。再好的提示词也无法让过期的副本变新。动提示词之前，先看看工具返回了什么。

第二个错误是“为了保险”处处开启强一致。读取费用翻倍，延迟增加，而在 GSI 上根本开不了。大多数参考类问题并不需要它。

第三个错误是只在单 Region 的开发环境里测试，那里的复制延迟几乎看不出来。“我刚取消的订单还在派送”这类 bug，只有真实用户写入后立刻提问时才会出现，而内部演示很少这样操作。

最后一个错误是忘了最终一致性可能产生相互冲突的版本。如果助手还有写权限，比如修改收货地址，那么在给 Agent 这项权限之前，必须先弄清系统如何处理两次重叠的写入。

## 小练习

选一个你熟悉的业务，比如电子钱包的客服机器人。写下用户常问的五个问题，每个问题记下三点：数据存在哪里；助手应采用强一致读还是最终一致读；如果读到几秒前的数据会怎样。

然后从归入强一致组的问题里挑一个，问问自己：如果这次查询必须经过二级索引，你会怎样重新设计工具？做完之后，你手里就有一张和第二步类似的表格，可以直接带进第一次需求调研会。

## 把这项技能写进简历

阅读 FDE 岗位描述时，如果看到“integrate with customer systems of record”或“real-time data”这类字眼，准备好一个你处理过期数据的故事。这也是反问雇主的好时机：他们的 Agent 是从源系统读，还是从副本读？

简历上写一句“按新鲜度要求将 Agent 的查询分为 4 组，并将退款相关查询改为强一致读”，比任何“精通分布式系统”都更有说服力。

下次有人问“这个机器人读的是不是真实数据”，别只回答“是”或“不是”。告诉他们它读到的数据是什么时候写入的，再问一句：这个延迟，他们认可过吗？

**本周动手试试:**

- 拿一个你正在做的 Agent 或聊天机器人，列出它读取的所有数据源。在每一项旁边注明它读的是源系统还是副本，以及可接受的最大延迟。
- 写一个测试：向源系统写入一条记录，然后立即通过助手使用的路径读回来。重复 100 次，统计有多少次读到了过期值。
- 准备一个客户需求调研问题：“如果助手用几秒前的数据回答，最坏会发生什么？”

## 信源

- [CAP FAQ (henryr/cap-faq)](https://github.com/henryr/cap-faq)

- [CAP Theorem Revisited](https://robertgreiner.com/cap-theorem-revisited/)

- [Consistency Patterns in Distributed Systems](https://cs.fyi/guide/consistency-patterns-week-strong-eventual/)

- [DynamoDB read consistency](https://docs.aws.amazon.com/amazondynamodb/latest/developerguide/HowItWorks.ReadConsistency.html)
