FDE Times 数据在招 FDE 职位 924▲33 近 7 天在招职位数的变化(同口径比较):不计入本周新开始追踪的公司的职位近 7 天新增 80在招公司 196支持远程 25%美国薪资中位数 $200k招聘最多 Databricks 107
ENVI

前线部署工程师(FDE)的专业媒体

技能指南 · 指南

数据在哪里处理?存储区域回答不了

数据存在哪里和模型在哪里推理是两项独立设置,客户的安全审查要求两者都拿出证据。

分享微博

要点速览

  • 工作区或资源的区域只说明数据静态存储在哪里,模型在哪里推理是另一项设置。
  • Anthropic 的 inference_geo 默认值是 "global"。Azure Global 部署和 Bedrock 全局配置文件也可能在全球范围内路由,因此必须选对类型。
  • 客户要的不是承诺,而是固定在代码里的配置、记录实际推理区域的日志,以及一份写明承诺不覆盖哪些内容的清单。
对比四家 LLM 厂商的表格。第一列是决定推理运行位置的设置,第二列是可获得的证据。Anthropic 使用 inference_geo,默认值为 global,即可能在任意区域运行,每个响应中都有证据;Azure Foundry 取决于部署类型,以部署配置为证据;Amazon Bedrock 使用推理配置文件,证据在 CloudTrail 日志中;OpenAI 提供区域处理,证据只能在其条款中找到。
每家厂商都通过各自的设置指定推理区域,与存储区域相互独立;各家提供的证据也不同,从每个响应中的字段到仅有合同条款。来源:文中引用的 Anthropic、Microsoft Foundry、Amazon Bedrock 和 OpenAI 数据驻留文档。

OpenAI 的数据驻留文档里有一句话,每位前线部署工程师(FDE)都应该记牢:区域存储不等于区域处理。安全审查最常出问题的地方,恰恰就在这里。

客户的法务团队问“我们的数据在哪里处理?”,最省事的回答是指向工作区或资源所在的区域。对于落在磁盘上的数据,这个回答没错。但它完全没说明,提示词被发送到哪些服务器上,让模型生成响应。

答错了,项目可能卡在审批环节。更糟的是,系统可能带着一个无法兑现的承诺上了生产环境。

客户其实问了两个问题

第一个问题是数据静态存储在哪里:上传的文件、对话历史、保存的输出。第二个问题是推理过程中提示词和响应在哪里处理。两个问题答案不同,各家厂商配置它们的位置也不同。

Anthropic 把它们拆成两项独立设置。Workspace geo 决定数据静态存储的位置,以及图像转码、代码执行等辅助端点的运行位置。Inference geo 决定模型在哪里推理,按请求设置。

Azure 上的 Microsoft Foundry 在所有部署类型中同样讲得很清楚:静态数据留在所选的 Azure 地理区域内,推理在哪里处理则取决于部署类型。

四家厂商,四套叫法

从 Anthropic 讲起最合适,因为它的默认值最能说明风险。inference_geo 的默认值是 “global”,意思是为了优化性能和可用性,推理可能在任意区域运行。如果没人改它,对客户的诚实回答就是“任何地方”。

厂商 静态存储 推理 证据
Anthropic Workspace geo,创建工作区时选定,之后不可更改 按请求设置 inference_geo:“global” 或 “us” 响应中的 usage.inference_geo
Azure Foundry 所选地理区域 Global:任意区域。Data Zone:美国、欧盟或亚太。Standard:所选地理区域内 部署类型
Amazon Bedrock 需另行向 AWS 确认 跨区域(Cross-Region)可能离开源区域。地理配置文件限定在一个地理区域内 CloudTrail 中的 additionalEventData.inferenceRegion
OpenAI 提供区域存储 在美国和欧洲(EEA 和瑞士)提供区域处理,部分模型支持澳大利亚、印度、日本 查阅条款:系统数据不在范围内

每一行都藏着一个容易漏掉的细节。在 Azure 上,Standard 和 Regional Provisioned 部署会在客户所选的地理区域内处理数据,但出于运维原因,仍可能在该地理区域内的不同区域之间移动数据。如果客户合同写明了具体区域,要提前讲清楚。

对于 Bedrock,AWS 建议有数据驻留要求的客户使用地理推理配置文件。全局配置文件可能把请求发往全球任意商业区域。OpenAI 方面,系统数据可能在所选区域之外存储和处理,厂商为了运营服务,也可能临时把客户内容存放在区域之外。

一个完整的实例

假设有这样一个客户:一家美国保险公司,要求保单数据绝不离开美国,而你通过 Anthropic 的 API 使用 Claude。第一步发生在写任何代码之前。Workspace geo 在创建工作区时选定,之后不能更改,所以建错了工作区就得从头再来。

截至撰稿时,文档中唯一的 workspace geo 选项是 “us”,因此存储满足要求。推理则必须在每个请求上固定,而且应该写在代码里,而不是指望有人记得在控制台里点对按钮:

body = {
    "model": MODEL,
    "max_tokens": 1024,
    "inference_geo": "us",   # 仅在美国基础设施上运行推理
    "messages": [{"role": "user", "content": prompt}],
}
resp = call_messages_api(body)

geo = resp["usage"].get("inference_geo")
audit_log.write({"request_id": resp["id"], "inference_geo": geo})
if geo != "us":
    alert("推理在承诺区域之外运行")

写日志的那一行,才是把承诺变成证据的关键。响应中带有 usage.inference_geo 字段,显示推理实际在哪里运行。把它和请求 id 记在一起,客户的审计人员问起时,你交出去的是数据,而不是幻灯片上的一句话。

接下来要替客户算清成本。对于 Claude 4.6 及之后的模型,仅限美国的推理按标准价格的 1.1 倍计费,适用于所有 token 类型:输入、输出、缓存写入和缓存读取。今天每 100 个单位的 token 开销会变成 110,缓存也帮不了你规避这部分差价。

如果客户之后迁移到 Bedrock,逻辑不变,只是配置的位置变了:选择美国地理推理配置文件,而不是全局配置文件。证据在源区域的 CloudTrail 中:每个跨区域请求都会被记录,并带有 additionalEventData.inferenceRegion 字段。

用在自己项目上的流程

先把客户的要求改写成两行:静态数据必须存放在哪里,推理必须在哪里运行。这时你常会发现,客户只想到了第一行。还要问清楚:要求是到国家一级为止,到欧盟这样的区域联盟为止,还是指定了具体区域。

然后,把每一行对应到厂商的具体设置,记下设置名称和取值。把这个值固定在代码或基础设施即代码(IaC)中,再像上面的代码那样,加一项读取证据字段的运行时检查。

最后一步,写一小段话,列出承诺不覆盖或需要另行核实的内容。对 OpenAI 来说是系统数据;对 Azure Standard 部署来说,是出于运维原因在同一地理区域内跨区域移动。

对 Anthropic 来说,图像转码、代码执行等辅助端点遵循 workspace geo,而不是 inference_geo,所以要单独检查。在客户自己发现之前,把这段话交给他们:主动早披露,总比在审计中途被翻出来好办得多。

常见错误

最常见的错误,是用工作区区域作答就算完事,而推理仍停留在全局默认值上。另一个错误是以为 Azure Standard 部署就等于只用一个区域,其实它只保证数据留在一个地理区域内。

代价最大的错误,是在驻留要求敲定之前就创建工作区,因为 workspace geo 无法更改。还有,别忘了告诉客户价格上浮,否则第一个月的账单就会变成一场谁都不想参加的会议。

练习:Azure 上的欧盟客户

某客户要求数据绝不离开欧盟,使用 Microsoft Foundry。请为它填写一张“存储 / 推理”两列表格。存储一列很简单,因为静态数据留在所选的 Azure 地理区域内。真正需要思考的是推理一列。

写下哪种部署类型可以直接排除(Global,因为它可能在任意区域处理),哪种能让处理留在欧盟(Data Zone EU),以及客户坚持指定某个具体区域时你会怎么回答。如果不翻文档就能填满这三格,你就可以去应对真正的审查了。

这项技能在简历上的位置

当 FDE 岗位描述提到金融、医疗、公共部门等强监管行业的客户时,面试中很可能会问到数据驻留。好的回答会把存储和推理分开,并说出至少两家厂商的具体设置。

在简历上,“为 LLM 调用设计数据驻留配置和推理区域审计日志”这样的一行,比笼统的“合规”分量重得多。它告诉招聘方,你跟客户的安全团队坐在一起谈过,而且顺利过关。

问“我们的数据在哪里处理?”的人,想知道你是否真正了解自己的系统。一个分成两部分的回答,再加一行日志作证据,是赢得对方信任最快的方式。

这篇文章对你有帮助吗?

5 个信源
路线图上的下一篇 · 阶段 5: 部署上线合同到期,数据删除还是返还由客户说了算GDPR 把选择权交给客户,FDE 要按正确顺序执行,并为每一步留下证据。