数据在哪里处理?存储区域回答不了
数据存在哪里和模型在哪里推理是两项独立设置,客户的安全审查要求两者都拿出证据。
要点速览
- 工作区或资源的区域只说明数据静态存储在哪里,模型在哪里推理是另一项设置。
- Anthropic 的 inference_geo 默认值是 "global"。Azure Global 部署和 Bedrock 全局配置文件也可能在全球范围内路由,因此必须选对类型。
- 客户要的不是承诺,而是固定在代码里的配置、记录实际推理区域的日志,以及一份写明承诺不覆盖哪些内容的清单。
OpenAI 的数据驻留文档里有一句话,每位前线部署工程师(FDE)都应该记牢:区域存储不等于区域处理。安全审查最常出问题的地方,恰恰就在这里。
客户的法务团队问“我们的数据在哪里处理?”,最省事的回答是指向工作区或资源所在的区域。对于落在磁盘上的数据,这个回答没错。但它完全没说明,提示词被发送到哪些服务器上,让模型生成响应。
答错了,项目可能卡在审批环节。更糟的是,系统可能带着一个无法兑现的承诺上了生产环境。
客户其实问了两个问题
第一个问题是数据静态存储在哪里:上传的文件、对话历史、保存的输出。第二个问题是推理过程中提示词和响应在哪里处理。两个问题答案不同,各家厂商配置它们的位置也不同。
Anthropic 把它们拆成两项独立设置。Workspace geo 决定数据静态存储的位置,以及图像转码、代码执行等辅助端点的运行位置。Inference geo 决定模型在哪里推理,按请求设置。
Azure 上的 Microsoft Foundry 在所有部署类型中同样讲得很清楚:静态数据留在所选的 Azure 地理区域内,推理在哪里处理则取决于部署类型。
四家厂商,四套叫法
从 Anthropic 讲起最合适,因为它的默认值最能说明风险。inference_geo 的默认值是 “global”,意思是为了优化性能和可用性,推理可能在任意区域运行。如果没人改它,对客户的诚实回答就是“任何地方”。
| 厂商 | 静态存储 | 推理 | 证据 |
|---|---|---|---|
| Anthropic | Workspace geo,创建工作区时选定,之后不可更改 | 按请求设置 inference_geo:“global” 或 “us” | 响应中的 usage.inference_geo |
| Azure Foundry | 所选地理区域 | Global:任意区域。Data Zone:美国、欧盟或亚太。Standard:所选地理区域内 | 部署类型 |
| Amazon Bedrock | 需另行向 AWS 确认 | 跨区域(Cross-Region)可能离开源区域。地理配置文件限定在一个地理区域内 | CloudTrail 中的 additionalEventData.inferenceRegion |
| OpenAI | 提供区域存储 | 在美国和欧洲(EEA 和瑞士)提供区域处理,部分模型支持澳大利亚、印度、日本 | 查阅条款:系统数据不在范围内 |
每一行都藏着一个容易漏掉的细节。在 Azure 上,Standard 和 Regional Provisioned 部署会在客户所选的地理区域内处理数据,但出于运维原因,仍可能在该地理区域内的不同区域之间移动数据。如果客户合同写明了具体区域,要提前讲清楚。
对于 Bedrock,AWS 建议有数据驻留要求的客户使用地理推理配置文件。全局配置文件可能把请求发往全球任意商业区域。OpenAI 方面,系统数据可能在所选区域之外存储和处理,厂商为了运营服务,也可能临时把客户内容存放在区域之外。
一个完整的实例
假设有这样一个客户:一家美国保险公司,要求保单数据绝不离开美国,而你通过 Anthropic 的 API 使用 Claude。第一步发生在写任何代码之前。Workspace geo 在创建工作区时选定,之后不能更改,所以建错了工作区就得从头再来。
截至撰稿时,文档中唯一的 workspace geo 选项是 “us”,因此存储满足要求。推理则必须在每个请求上固定,而且应该写在代码里,而不是指望有人记得在控制台里点对按钮:
body = {
"model": MODEL,
"max_tokens": 1024,
"inference_geo": "us", # 仅在美国基础设施上运行推理
"messages": [{"role": "user", "content": prompt}],
}
resp = call_messages_api(body)
geo = resp["usage"].get("inference_geo")
audit_log.write({"request_id": resp["id"], "inference_geo": geo})
if geo != "us":
alert("推理在承诺区域之外运行")
写日志的那一行,才是把承诺变成证据的关键。响应中带有 usage.inference_geo 字段,显示推理实际在哪里运行。把它和请求 id 记在一起,客户的审计人员问起时,你交出去的是数据,而不是幻灯片上的一句话。
接下来要替客户算清成本。对于 Claude 4.6 及之后的模型,仅限美国的推理按标准价格的 1.1 倍计费,适用于所有 token 类型:输入、输出、缓存写入和缓存读取。今天每 100 个单位的 token 开销会变成 110,缓存也帮不了你规避这部分差价。
如果客户之后迁移到 Bedrock,逻辑不变,只是配置的位置变了:选择美国地理推理配置文件,而不是全局配置文件。证据在源区域的 CloudTrail 中:每个跨区域请求都会被记录,并带有 additionalEventData.inferenceRegion 字段。
用在自己项目上的流程
先把客户的要求改写成两行:静态数据必须存放在哪里,推理必须在哪里运行。这时你常会发现,客户只想到了第一行。还要问清楚:要求是到国家一级为止,到欧盟这样的区域联盟为止,还是指定了具体区域。
然后,把每一行对应到厂商的具体设置,记下设置名称和取值。把这个值固定在代码或基础设施即代码(IaC)中,再像上面的代码那样,加一项读取证据字段的运行时检查。
最后一步,写一小段话,列出承诺不覆盖或需要另行核实的内容。对 OpenAI 来说是系统数据;对 Azure Standard 部署来说,是出于运维原因在同一地理区域内跨区域移动。
对 Anthropic 来说,图像转码、代码执行等辅助端点遵循 workspace geo,而不是 inference_geo,所以要单独检查。在客户自己发现之前,把这段话交给他们:主动早披露,总比在审计中途被翻出来好办得多。
常见错误
最常见的错误,是用工作区区域作答就算完事,而推理仍停留在全局默认值上。另一个错误是以为 Azure Standard 部署就等于只用一个区域,其实它只保证数据留在一个地理区域内。
代价最大的错误,是在驻留要求敲定之前就创建工作区,因为 workspace geo 无法更改。还有,别忘了告诉客户价格上浮,否则第一个月的账单就会变成一场谁都不想参加的会议。
练习:Azure 上的欧盟客户
某客户要求数据绝不离开欧盟,使用 Microsoft Foundry。请为它填写一张“存储 / 推理”两列表格。存储一列很简单,因为静态数据留在所选的 Azure 地理区域内。真正需要思考的是推理一列。
写下哪种部署类型可以直接排除(Global,因为它可能在任意区域处理),哪种能让处理留在欧盟(Data Zone EU),以及客户坚持指定某个具体区域时你会怎么回答。如果不翻文档就能填满这三格,你就可以去应对真正的审查了。
这项技能在简历上的位置
当 FDE 岗位描述提到金融、医疗、公共部门等强监管行业的客户时,面试中很可能会问到数据驻留。好的回答会把存储和推理分开,并说出至少两家厂商的具体设置。
在简历上,“为 LLM 调用设计数据驻留配置和推理区域审计日志”这样的一行,比笼统的“合规”分量重得多。它告诉招聘方,你跟客户的安全团队坐在一起谈过,而且顺利过关。
问“我们的数据在哪里处理?”的人,想知道你是否真正了解自己的系统。一个分成两部分的回答,再加一行日志作证据,是赢得对方信任最快的方式。
这篇文章对你有帮助吗?
感谢你的反馈!