聊天机器人泄露工资单,问题出在检索
权限要在文本进入提示词前校验,选对 RBAC、ABAC、ReBAC 或 PBAC,客户的访问规则才能完整保留。
要点速览
- 在 RAG 中,权限必须在检索步骤执行,让数据管道只返回提问者有权查看的文档。
- RBAC 便于审计,但容易出现角色膨胀;ABAC 按属性匹配,所需策略更少;PBAC 把规则放进策略引擎,便于版本管理和审计。
- 文档存放在 Drive、Confluence 或 SharePoint 时,内容和权限都要同步,并且两者都要与源系统保持一致。
驻场第二周。内部聊天机器人的演示一直很顺利,直到一位销售问起今年的奖金政策,机器人直接引用了高管工资单里的一段内容。
模型本身没有做错什么。它回答了别人问的问题,用的是检索步骤交给它的文档。问题在于,数据管道既不知道提问的是谁,也不知道这个人能看什么。
每个为企业构建 RAG 或 Agent 的前线部署工程师(FDE)都会碰到这件事。客户本来就有一套授权模型,有时写得很明确,更多时候隐含在 SharePoint 或 Confluence 里。FDE 的工作,是把这套模型完整搬进 AI 应用,一条规则都不能丢。
为什么漏洞出在检索环节?
OpenFGA 文档把要求说得很直白:文档级权限必须在数据管道中执行,让 RAG 只返回用户有权查看的内容。换句话说,授权决策必须发生在任何文本进入模型上下文之前。
一段文字一旦进了提示词,“不要泄露机密信息”之类的指令就只是一种请求。所以真正的工程问题是:用哪种模型复现客户的权限,以及在哪里过滤。
同一条规则,四种描述方式
还是这家公司,试着用每种模型写出“只有高管团队能看工资单”这条规则。对同一项权限,每种模型提出的问题都不一样。
最常见的是基于角色的访问控制(RBAC):按 Auth0 的定义,权限按组织中的角色分配,每个角色是一组施加在用户身上的权限。对工资单来说,建一个“高管团队”角色就够了,审计也简单。
规则一旦带上上下文,麻烦就来了。假设客户有 5 个部门、4 个职级、3 个区域,如果每种组合都要单独一个角色,还没算项目就已经有 60 个角色。
这就是 Ping Identity 警告的“角色爆炸”。AWS 还指出另一个缺点:每出现一个新资源,都得更新策略来授予访问权限。
如果客户的文档已经标注了部门和敏感级别,基于属性的访问控制(ABAC)会整洁得多。“请求者的部门与文档部门一致,且职级足以访问该敏感级别”这样一条规则就能取代全部 60 个角色,因为决策依据的是人、资源和环境的属性。
AWS 表示,这种方式所需策略更少,并能随新资源自动扩展。代价是标签必须干净:有一份工资单文件忘了打标签,就是一次泄露。
不过很多客户什么都不标注。他们的权限体现在“工资单”文件夹共享给了谁,这是一种关系。基于关系的访问控制(ReBAC)正是为此建模:访问权限来自用户、群组和文档之间的关系,需要描述整张关系图。Google 的 Zanzibar 常被当作范本。
基于策略的访问控制(PBAC)回答的是另一个问题:规则放在哪里,归谁管?所有决策都经过一个策略引擎,规则用声明式语言编写,安全团队可以编写、版本管理和审计规则,也能快速调整权限,而不必在整个组织范围内审查角色。
| 模型 | 回答的问题 | 适合哪类客户 | 代价 |
|---|---|---|---|
| RBAC | 这个人担任什么角色? | 组织角色少,需要简单审计 | 角色数量膨胀;新资源意味着改策略 |
| ABAC | 人、文档和上下文的属性是否匹配? | 文档已按部门和敏感级别打好标签 | 属性必须干净并保持最新 |
| ReBAC | 这个人和文档是什么关系? | 访问权限跟着文件夹、群组和共享关系走 | 必须描述并同步整张关系图 |
| PBAC | 中央规则怎么说? | 安全团队希望把规则当作代码管理 | 需要策略引擎,以及专人维护规则 |
实践中的教训是:客户说“我们用角色”,并不等于他们用的是 RBAC。如果权限归根结底是“这个文件夹共享给了谁”,那就是关系,ReBAC 更合适。
示例:继承文件夹权限的文档
OpenFGA 给出的一个例子和客户现场的情况非常接近:文档属于某个文件夹,并继承该文件夹的查看者,能查看文件夹的人就能查看其中所有文档。用 OpenFGA 的建模语言,这条规则只需几行:
model
schema 1.1
type user
type folder
relations
define viewer: [user]
type document
relations
define parent: [folder]
define viewer: [user] or viewer from parent
最后一行承载了全部继承逻辑。“工资单”文件夹的查看者只有高管团队,里面的工资单文件自然也只有他们能看,无需新建任何角色。
下一步是决定在哪里过滤。OpenFGA 介绍了两种做法:后过滤,先查询向量库,再逐条检查结果的权限;预过滤,先取出用户可查看的文档列表,再把这些 ID 作为过滤条件传给向量检索。预过滤的示意代码如下:
def retrieve(user_id, question, k=8):
allowed = fga.list_objects(
user=f"user:{user_id}",
relation="viewer",
type="document",
)
return vector_db.search(
query=question,
top_k=k,
filter={"doc_id": {"$in": allowed}},
)
选择预过滤的理由是一道简单的算术题。用后过滤时,如果取 top 8,而 8 个分块都来自机密文档,用户拿到的就是 0 个分块,哪怕第 9 名就是一份有权查看的文档。
预过滤的风险正好相反:对于能看很多内容的人,ID 列表可能变得非常长,所以要在客户的真实数据上测一测。
在客户现场如何从零开始
先做需求调研,再写代码。准备几个简短的问题:
- 文档存放在哪些系统里?
- 谁来决定权限?
- 权限是绑定角色、标签,还是共享文件夹?
- 有人离职时,在哪个系统里收回他的访问权限?
最后一个问题的答案,通常会揭示你需要锚定的权威数据源。
然后根据权限的实际运作方式选择模型,不管客户怎么称呼它。按文件夹和共享划分的权限指向 ReBAC;已按部门和敏感级别打好标签的文档适合 ABAC;如果安全团队希望像审查代码一样审查规则,就该考虑 PBAC。
文档存放在 Drive、Confluence 或 SharePoint 时,OpenFGA 建议把内容同步到向量数据库、把权限同步到 OpenFGA,并让两者都与源系统保持一致。这意味着两条独立的数据管道,每条都需要调度计划、偏离时的告警,以及处理删除的机制。
最后,用真实用户测试。找来自三个部门的三个账号,问同一个问题,检查引用的文档集合是否恰好按预期有所不同。
写简历时,别笼统地写“构建了 RAG”,而要写清楚你为文档级权限建模,并从源系统同步权限。面试企业级 RAG 岗位时,可以问对方如何处理文档级权限。
这个问题能让你看出产品的成熟度,也能让对方知道,你清楚这类项目通常在哪里出问题。
常见陷阱
第一个陷阱是为了演示同步一次权限,之后就忘了。内容过期几天也许没人察觉,但权限过期几天,就意味着刚被收回权限的人仍能向机器人提问。
第二个陷阱是让 Agent 通过高权限的服务账号读取文档,指望提示词能约束它。第三个是每遇到一种特殊情况就再建一个角色,这是通往角色爆炸的捷径。
最后一个是只依赖固定 top-k 的后过滤,导致权限少的用户得到空答案,进而认定机器人“不好用”。这样失去的,恰恰是人数最多的那批用户的信任。
企业级 AI 应用能否赢得信任,与其说取决于它回答得多好,不如说取决于它能否在正确的时刻、对正确的人保持沉默。
这篇文章对你有帮助吗?
感谢你的反馈!
7 个信源
- Role-Based Access Control (Auth0 Docs)
- Ping Identity – RBAC vs. Adaptive access control (authorization methods)
- Define permissions based on attributes with ABAC authorization (AWS IAM User Guide)
- Relationship-based Access Control (ReBAC) – Aserto Docs
- How to Implement Relationship Based Access Control (ReBAC) · 2024-03-08
- Policy-Based Access Control (PBAC) – The Complete Know How for Organizations · 2023-12-07
- RAG Authorization (OpenFGA Docs)