FDE Times 数据在招 FDE 职位 924▲33 近 7 天在招职位数的变化(同口径比较):不计入本周新开始追踪的公司的职位近 7 天新增 80在招公司 196支持远程 25%美国薪资中位数 $200k招聘最多 Databricks 107
ENVI

前线部署工程师(FDE)的专业媒体

技能指南 · 指南

聊天机器人泄露工资单,问题出在检索

权限要在文本进入提示词前校验,选对 RBAC、ABAC、ReBAC 或 PBAC,客户的访问规则才能完整保留。

分享微博

要点速览

  • 在 RAG 中,权限必须在检索步骤执行,让数据管道只返回提问者有权查看的文档。
  • RBAC 便于审计,但容易出现角色膨胀;ABAC 按属性匹配,所需策略更少;PBAC 把规则放进策略引擎,便于版本管理和审计。
  • 文档存放在 Drive、Confluence 或 SharePoint 时,内容和权限都要同步,并且两者都要与源系统保持一致。
四种授权模型的对比表。RBAC:按角色授予访问权限,代价是角色数量不断增加。ABAC:按部门标签和密级授权,标签必须干净。ReBAC(高亮):按共享文件夹授权,关系图必须保持同步。PBAC:按中央规则授权,需要策略引擎。
客户说“我们用角色”,未必就是 RBAC:如果访问权限取决于文件夹共享给了谁,就用 ReBAC 建模。来源:本文综合 OpenFGA、Auth0、AWS 和 Ping Identity 的文档整理。

驻场第二周。内部聊天机器人的演示一直很顺利,直到一位销售问起今年的奖金政策,机器人直接引用了高管工资单里的一段内容。

模型本身没有做错什么。它回答了别人问的问题,用的是检索步骤交给它的文档。问题在于,数据管道既不知道提问的是谁,也不知道这个人能看什么。

每个为企业构建 RAG 或 Agent 的前线部署工程师(FDE)都会碰到这件事。客户本来就有一套授权模型,有时写得很明确,更多时候隐含在 SharePoint 或 Confluence 里。FDE 的工作,是把这套模型完整搬进 AI 应用,一条规则都不能丢。

为什么漏洞出在检索环节?

OpenFGA 文档把要求说得很直白:文档级权限必须在数据管道中执行,让 RAG 只返回用户有权查看的内容。换句话说,授权决策必须发生在任何文本进入模型上下文之前。

一段文字一旦进了提示词,“不要泄露机密信息”之类的指令就只是一种请求。所以真正的工程问题是:用哪种模型复现客户的权限,以及在哪里过滤。

同一条规则,四种描述方式

还是这家公司,试着用每种模型写出“只有高管团队能看工资单”这条规则。对同一项权限,每种模型提出的问题都不一样。

最常见的是基于角色的访问控制(RBAC):按 Auth0 的定义,权限按组织中的角色分配,每个角色是一组施加在用户身上的权限。对工资单来说,建一个“高管团队”角色就够了,审计也简单。

规则一旦带上上下文,麻烦就来了。假设客户有 5 个部门、4 个职级、3 个区域,如果每种组合都要单独一个角色,还没算项目就已经有 60 个角色。

这就是 Ping Identity 警告的“角色爆炸”。AWS 还指出另一个缺点:每出现一个新资源,都得更新策略来授予访问权限。

如果客户的文档已经标注了部门和敏感级别,基于属性的访问控制(ABAC)会整洁得多。“请求者的部门与文档部门一致,且职级足以访问该敏感级别”这样一条规则就能取代全部 60 个角色,因为决策依据的是人、资源和环境的属性。

AWS 表示,这种方式所需策略更少,并能随新资源自动扩展。代价是标签必须干净:有一份工资单文件忘了打标签,就是一次泄露。

不过很多客户什么都不标注。他们的权限体现在“工资单”文件夹共享给了谁,这是一种关系。基于关系的访问控制(ReBAC)正是为此建模:访问权限来自用户、群组和文档之间的关系,需要描述整张关系图。Google 的 Zanzibar 常被当作范本。

基于策略的访问控制(PBAC)回答的是另一个问题:规则放在哪里,归谁管?所有决策都经过一个策略引擎,规则用声明式语言编写,安全团队可以编写、版本管理和审计规则,也能快速调整权限,而不必在整个组织范围内审查角色。

模型 回答的问题 适合哪类客户 代价
RBAC 这个人担任什么角色? 组织角色少,需要简单审计 角色数量膨胀;新资源意味着改策略
ABAC 人、文档和上下文的属性是否匹配? 文档已按部门和敏感级别打好标签 属性必须干净并保持最新
ReBAC 这个人和文档是什么关系? 访问权限跟着文件夹、群组和共享关系走 必须描述并同步整张关系图
PBAC 中央规则怎么说? 安全团队希望把规则当作代码管理 需要策略引擎,以及专人维护规则

实践中的教训是:客户说“我们用角色”,并不等于他们用的是 RBAC。如果权限归根结底是“这个文件夹共享给了谁”,那就是关系,ReBAC 更合适。

示例:继承文件夹权限的文档

OpenFGA 给出的一个例子和客户现场的情况非常接近:文档属于某个文件夹,并继承该文件夹的查看者,能查看文件夹的人就能查看其中所有文档。用 OpenFGA 的建模语言,这条规则只需几行:

model
  schema 1.1

type user

type folder
  relations
    define viewer: [user]

type document
  relations
    define parent: [folder]
    define viewer: [user] or viewer from parent

最后一行承载了全部继承逻辑。“工资单”文件夹的查看者只有高管团队,里面的工资单文件自然也只有他们能看,无需新建任何角色。

下一步是决定在哪里过滤。OpenFGA 介绍了两种做法:后过滤,先查询向量库,再逐条检查结果的权限;预过滤,先取出用户可查看的文档列表,再把这些 ID 作为过滤条件传给向量检索。预过滤的示意代码如下:

def retrieve(user_id, question, k=8):
    allowed = fga.list_objects(
        user=f"user:{user_id}",
        relation="viewer",
        type="document",
    )
    return vector_db.search(
        query=question,
        top_k=k,
        filter={"doc_id": {"$in": allowed}},
    )

选择预过滤的理由是一道简单的算术题。用后过滤时,如果取 top 8,而 8 个分块都来自机密文档,用户拿到的就是 0 个分块,哪怕第 9 名就是一份有权查看的文档。

预过滤的风险正好相反:对于能看很多内容的人,ID 列表可能变得非常长,所以要在客户的真实数据上测一测。

在客户现场如何从零开始

先做需求调研,再写代码。准备几个简短的问题:

  • 文档存放在哪些系统里?
  • 谁来决定权限?
  • 权限是绑定角色、标签,还是共享文件夹?
  • 有人离职时,在哪个系统里收回他的访问权限?

最后一个问题的答案,通常会揭示你需要锚定的权威数据源。

然后根据权限的实际运作方式选择模型,不管客户怎么称呼它。按文件夹和共享划分的权限指向 ReBAC;已按部门和敏感级别打好标签的文档适合 ABAC;如果安全团队希望像审查代码一样审查规则,就该考虑 PBAC。

文档存放在 Drive、Confluence 或 SharePoint 时,OpenFGA 建议把内容同步到向量数据库、把权限同步到 OpenFGA,并让两者都与源系统保持一致。这意味着两条独立的数据管道,每条都需要调度计划、偏离时的告警,以及处理删除的机制。

最后,用真实用户测试。找来自三个部门的三个账号,问同一个问题,检查引用的文档集合是否恰好按预期有所不同。

写简历时,别笼统地写“构建了 RAG”,而要写清楚你为文档级权限建模,并从源系统同步权限。面试企业级 RAG 岗位时,可以问对方如何处理文档级权限。

这个问题能让你看出产品的成熟度,也能让对方知道,你清楚这类项目通常在哪里出问题。

常见陷阱

第一个陷阱是为了演示同步一次权限,之后就忘了。内容过期几天也许没人察觉,但权限过期几天,就意味着刚被收回权限的人仍能向机器人提问。

第二个陷阱是让 Agent 通过高权限的服务账号读取文档,指望提示词能约束它。第三个是每遇到一种特殊情况就再建一个角色,这是通往角色爆炸的捷径。

最后一个是只依赖固定 top-k 的后过滤,导致权限少的用户得到空答案,进而认定机器人“不好用”。这样失去的,恰恰是人数最多的那批用户的信任。

企业级 AI 应用能否赢得信任,与其说取决于它回答得多好,不如说取决于它能否在正确的时刻、对正确的人保持沉默。

这篇文章对你有帮助吗?

7 个信源
路线图上的下一篇 · 阶段 5: 部署上线一个裸 500 错误,让你替客户值夜班2023 年取代 RFC 7807 的 RFC 9457 定义了机器可读的错误字段,让客户运维团队能自行处理许多故障。