FDE Times 数据在招 FDE 职位 924▲33 近 7 天在招职位数的变化(同口径比较):不计入本周新开始追踪的公司的职位近 7 天新增 80在招公司 196支持远程 25%美国薪资中位数 $200k招聘最多 Databricks 107
ENVI

前线部署工程师(FDE)的专业媒体

技能指南 · 指南

漏掉一个 WHERE 条件,RAG 系统就会跨客户泄露数据

租户边界应在设计阶段落到数据库、向量库、加密密钥和配置中,而不是拖到最后一个冲刺。

分享微博

要点速览

  • 一次跨租户数据泄露,可能就是企业无法挽回的事故,因此隔离必须落在基础设施中,不能只靠应用代码。
  • RAG 系统有三种模型:silo 隔离最强、成本最高,pool 全部共享,bridge 介于两者之间。
  • 需要处理四层:Postgres 中的 RLS、每租户一个向量库命名空间、每租户的 KMS 加密上下文,以及从单一来源查询的每租户一条配置记录。
流程图:来自已认证登录会话的请求先进入租户配置记录,该记录以红色突出显示,标注为第 4 层、即基础层。记录包含 UUID 形式的 tenant_id、isolation_tier(silo 或 pool)、vector_namespace 和 kms_key。从这条记录引出三支箭头,指向三个基础设施层。第 1 层是 PostgreSQL RLS:读取 B 的数据返回 0 行。第 2 层是向量命名空间:每个租户一个命名空间,不依赖元数据过滤。第 3 层是加密上下文:使用错误的上下文时,KMS 拒绝解密。
租户配置记录是基础层:每个请求都先查询它,RLS、命名空间和加密上下文这三层的边界都由它决定。

周五,内部文档助手正在演示。客户 A 的一名用户询问退款政策,回答却直接引用了客户 B 合同中的一段原文。没有人攻击系统,只是某条查询漏掉了 tenant_id 条件。

每个构建 AI 解决方案的前线部署工程师(FDE)迟早都会遇到这种情况。一个平台同时服务多个客户时,每个客户都有自己的文档、加密密钥和配置。

AWS 关于租户隔离策略的白皮书把要求说得很简洁:即使租户运行在共享环境中,一个租户的资源也不能被另一个租户访问。AWS 指出,无论通过什么途径,只要越过这条边界一次,就可能成为 SaaS 企业无法挽回的事故。

因此,租户隔离必须在最初的设计阶段就定下来,不能留到最后一个冲刺。本文围绕一个贯穿始终的示例,讲解必须锁住的四层:关系型数据、向量、加密密钥和配置。

Silo、bridge 还是 pool:选哪种模型?

AWS 明确表示,没有一种策略适用于所有情况。合适的做法取决于业务领域、合规要求、部署模型和所选服务。针对基于 Amazon Bedrock Knowledge Bases 的 RAG,AWS 描述了三种模型,下表按隔离程度排列。

Silo Bridge Pool
每个租户独享 知识库、S3 存储桶、OpenSearch Serverless 集合 仅知识库 无,整个架构共享
每租户 KMS 密钥 可以,因为每个租户有自己的存储桶 无法做到端到端的每租户加密 共用一个密钥
查询时如何过滤 在基础设施层面分开 按知识库区分 依赖租户元数据字段
适用场景 隔离要求最严格、能接受最高成本的客户 需要折中的情况 数量众多的小租户

设想你要部署一个平台,客户包括一家银行和几十家小型零售商。银行几乎一定会要求独立的加密密钥,而只有 silo 能做到。

对小型零售商来说,pool 更合理。同一个平台可以同时运行两种模型,前提是每个租户都被明确分配到某个隔离等级。

第一层:交给 PostgreSQL 来执行

当关系型数据共用一个数据库时,AWS 的指导明确指出,必须使用行级安全(RLS)来隔离租户。

RLS 把隔离的执行点从散落在应用代码中的数百条查询,收拢到一个地方:数据库。AWS 建议由应用在运行时设置租户上下文变量,而不是为每个租户单独创建数据库用户。

ALTER TABLE documents ENABLE ROW LEVEL SECURITY;
ALTER TABLE documents FORCE ROW LEVEL SECURITY;

CREATE POLICY tenant_isolation ON documents
  USING (tenant_id = current_setting('app.current_tenant')::uuid);

在应用侧,所有查询都必须经过同一个函数:

def query_as_tenant(conn, tenant_id, sql, params):
    with conn.transaction():
        conn.execute(
            "SELECT set_config('app.current_tenant', %s, true)",
            (str(tenant_id),),
        )
        return conn.execute(sql, params).fetchall()

参数 true 让该值只在当前事务内生效。如果在连接池中按会话级别设置,下一个请求可能拿到一条仍带着上一个请求租户的连接。这类泄露在测试中极难发现。

为什么要多加一行 FORCE?PostgreSQL 文档说明,超级用户和带有 BYPASSRLS 属性的角色总是绕过 RLS。表的所有者也会绕过,除非该表启用了 FORCE ROW LEVEL SECURITY。

反过来,如果表启用了 RLS 却没有任何策略,PostgreSQL 默认拒绝:看不到任何行,也不能修改任何行。配置不完整时,系统什么都不返回,而不是返回错误的数据。

第二层:每个租户一个命名空间

在向量库中,最常见的错误是把 tenant_id 作为元数据附加上去,在查询时过滤。Pinecone 文档建议每个租户使用一个命名空间,因为每个命名空间单独存储,租户数据在物理上是隔离的。

Pinecone 还指出,如果只用元数据过滤,无论过滤条件如何,查询仍会扫描整个命名空间。这种做法既更弱,也更贵。

这似乎与上表矛盾:Bedrock 的 pool 模型恰恰依赖租户元数据字段。实际上这是两种不同的选择:Bedrock Knowledge Bases 上的 pool 共享整个架构,元数据过滤就成了唯一能区分租户的手段。

Pinecone 在命名空间上多给了一个选项。如果你的向量库有这种机制,其他部分照样共享,比如数据管道和共用的 KMS 密钥,但仍应为每个小租户分配独立命名空间,而不是只靠过滤。

results = index.query(
    vector=embedding,
    top_k=5,
    namespace=tenant_cfg["vector_namespace"],
)

关键细节在于,namespace 不能取自用户输入。它必须来自租户配置,而租户配置根据已认证的登录会话查得。如果命名空间来自 URL 参数,底层的物理隔离就毫无意义。

第三层:把租户绑定到加密密钥

即使不得不共用一个 KMS 密钥,你仍可以借助加密上下文,把租户边界延伸到密码学层。加密上下文是一组非机密的键值对,AWS KMS 会以密码学方式把它绑定到密文上。

解密时必须提供相同的加密上下文。加密上下文还可以作为密钥策略和授权(grant)中的条件,把权限限定到具体租户。

dk = kms.generate_data_key(
    KeyId=tenant_cfg["kms_key"],
    KeySpec="AES_256",
    EncryptionContext={"tenant_id": tenant_cfg["tenant_id"]},
)

如果租户 B 的代码取到了租户 A 的数据块,并用 B 的 tenant_id 上下文调用解密,KMS 会拒绝。加密上下文还会记录在 CloudTrail 中,相当于现成的按租户划分的密钥使用日志,可以直接交给客户的审计团队。

不过,正因为加密上下文会被记录,AWS 要求其中不能包含敏感信息。应使用没有业务含义的 UUID,而不是客户名称或税号。

第四层:配置是一切的汇合点

上面三层只有在单一来源能回答“这个租户用的是什么”时才站得住。为每个租户保留一条配置记录;每个进入系统的请求都必须先查询它,下游所有环节都从它读取。以前面的银行和零售商为例,两条记录可能是这样的:

- tenant_id: 8f1c2e4a-5b7d-4c21-9a3e-0d6f7b2c1a90
  isolation_tier: silo
  vector_namespace: ns-8f1c2e4a
  kms_key: alias/tenant-8f1c2e4a
  model: <客户指定的模型>
  system_prompt: prompts/8f1c2e4a.md
  limits: { requests_per_minute: 60 }

- tenant_id: 3a9d7c10-2e4f-4b88-b1c5-7e0a9f6d2b34
  isolation_tier: pool
  vector_namespace: ns-3a9d7c10
  kms_key: alias/pool-shared
  model: <默认模型>
  system_prompt: prompts/default.md
  limits: { requests_per_minute: 20 }

注意,两条记录都用 UUID 作为标识,任何地方都没有客户名称,因此这个值可以直接放进加密上下文。按照 pool 模型,pool 租户共用密钥,但依照第二层的做法,仍有自己的命名空间。

当银行的安全团队问“我们的数据在哪里,用哪个密钥加密?”时,你只需打开他们的记录逐行指给他们看,而不必翻代码。

配置记录还为隔离测试套件提供输入。下面的测试以租户 A 登录,故意尝试读取、检索和解密 B 的数据:

def test_tenant_a_cannot_reach_tenant_b(conn, index, kms, b_doc_ids, b_blob):
    a, b = load_tenant(TENANT_A), load_tenant(TENANT_B)

    # 读取:即使直接查询 B 的 tenant_id,RLS 也必须返回 0 行
    rows = query_as_tenant(conn, a["tenant_id"],
        "SELECT id FROM documents WHERE tenant_id = %s", (b["tenant_id"],))
    assert rows == []

    # 检索:A 的命名空间中不得包含任何 B 的文档
    hits = index.query(vector=PROBE_VECTOR, top_k=50,
                       namespace=a["vector_namespace"])
    assert not {m.id for m in hits.matches} & set(b_doc_ids)

    # 解密:用 A 的上下文解密 B 的数据块,必须被 KMS 拒绝
    with pytest.raises(kms.exceptions.InvalidCiphertextException):
        kms.decrypt(CiphertextBlob=b_blob,
                    EncryptionContext={"tenant_id": a["tenant_id"]})

在持续集成(CI)中运行这个测试时,要使用与生产环境中应用完全相同的角色。如果以所有者角色运行,即使 RLS 根本没有生效,读取检查也可能通过。

让隔离失效的错误

最常见的错误是让应用以表所有者角色或带 BYPASSRLS 的角色连接数据库。策略仍在,却对该角色不生效,于是所有测试都能通过。迁移用的角色和应用用的角色要分开。

第二个错误是把向量库的元数据过滤当成隔离机制。过滤只是查询中的一个条件,只要有一段代码忘了传,数据就会泄露。

第三个错误是图省事选了 bridge,后来才发现客户要求用自己的密钥做端到端加密。Bridge 满足不了这个要求,所以在第一次需求调研时就要问清加密密钥的问题。

最后一个错误是只测正常路径。第四层的隔离测试套件之所以有价值,是因为它故意做错误的事:读取、检索、解密其他租户的数据,然后断言这三项操作全部失败。

把这项技能变成面试优势

阅读 FDE 或解决方案工程师岗位的职位描述时,留意“multi-tenant”“data isolation”“customer-managed keys”或“compliance”等关键词。看到这些词,就要准备好一个具体的经历:你是如何在客户之间隔离数据、密钥和配置的。

简历上不要只写“有多租户经验”,要写具体:按事务设置租户上下文变量的 RLS、每租户一个向量库命名空间、每租户的 KMS 加密上下文,以及尝试跨租户读取的自动化测试。这样一行字能让面试官看到,你理解系统会在哪里出问题,而不只是知道术语。

下次有人说“租户隔离以后再做”,你会知道这个“以后”的代价:一段合同原文出现在错误的演示中,就足够了。

这篇文章对你有帮助吗?

6 个信源
路线图上的下一篇 · 阶段 2: 全栈工程能力医院 AI 的第一个选择:HL7 v2 事件还是 FHIR 状态向医院 IT 要数据会听到两种答案,选错管道,Agent 要么动作太迟,要么读错数据。