# 欧盟客户的 AI 委员会不会问你模型有多准

> 依据 AI Act 第 9 条，它只问剩下什么风险、由谁接受，风险文档必须持续更新。

原文: https://fdetimes.net/zh/guides/model-risk-file-eu-ai-act-board/

距离上线还有两周。客户的 AI 委员会发来一封邮件，只有一个问题：“这个系统的剩余风险是否可以接受？由谁决定的？”

你有仪表盘，有评测套件，还有一个运行流畅的演示。但它们都回答不了这个问题。

对服务欧洲客户的前线部署工程师（FDE）来说，项目往往就卡在这一刻：要么继续推进，要么再等一个季度。这里需要的能力不是把法条背熟，而是把已经做完的技术工作，整理成委员会读得懂的论证。

## 委员会不读代码，只读论证

欧盟《人工智能法案》（EU AI Act）第 9 条要求，高风险 AI 系统必须建立、实施、记录并维护风险管理体系。其中最关键的词是“维护”。

法条写得很明白：这一过程应理解为持续、迭代的过程。因此，你的文档不是提交一次就被遗忘的 PDF，而是与系统一起存续。

第 9 条也指明了终点：整体剩余风险必须被判定为可以接受。这正是邮件里问的问题。委员会不需要零风险，它需要看到风险已被指出、已被降低，而且剩下的部分有人签了字。

附件四（Annex IV）规定了文档的最低内容，包括：按第 9 条对风险管理体系的详细描述；说明性能指标为何适合这个具体系统；描述在上市后阶段如何评估性能。

**要点:** 委员会不问模型有多好，它问剩下的风险由谁接受。

## 定制之后，你会变成提供者吗？

动笔之前，先确定角色。第 25 条规定，部署者或第三方如果改变了系统的预期用途，使其成为高风险系统，或者对系统做了实质性修改，就可能被视为提供者。

如果一方在已上市的高风险系统上加上自己的名称或商标，第 25 条同样适用。设想你的团队拿来一个通用模型，编写提示词和工具，让它筛选求职申请。

如果客户的法务团队把这一新用途归为高风险，第 25 条就可能把你的公司拉进提供者的角色。

实用的做法是在文档第一页写明角色：谁是提供者，谁是部署者，团队的哪些改动可能让角色发生变化。

法务需要这一页，因为角色决定了谁承担提供者的义务，包括按第 9 条建立并维护风险管理体系。这件事没定下来，后面每一页该署谁的名字都无从谈起。

## 实例：简历筛选 Agent

设想你为一家德国招聘公司部署了一个 Agent，它阅读简历，并建议拒绝或保留候选人。假设客户的法务团队已将该系统归为高风险。文档的核心是下面这样一份风险登记表。

| 风险 | 缓解措施 | 剩余风险 | 接受人 |
|---|---|---|---|
| Agent 错误拒绝了合格候选人 | 每条拒绝建议都由招聘人员审核 | 低 | 招聘负责人 |
| 招聘人员不假思索地批准，过度信任机器 | 展示拒绝理由、每周抽查、培训审核人员 | 中 | 招聘负责人 |
| 新的简历格式导致解析器读错 | 记录每次运行的日志，错误率上升时告警 | 低 | 工程负责人 |
| 系统需要紧急停止 | 停止按钮把所有流程转回人工 | 低 | 首席运营官 |

第二行和第四行不是摆设。第 14 条要求，负责人工监督的人员必须能通过“停止”按钮或类似程序中断系统，并始终意识到过度依赖系统输出的风险。

接下来是指标。附件四要的不只是数字，还要求你说明所选指标为何适合这个具体系统。如果只报准确率，就要准备好回答：准确率衡量的东西，受影响的人真的在乎吗？

对这个 Agent 来说，值得衡量的是审核人员对拒绝建议的同意率。假设每周抽取 200 条拒绝建议，招聘人员重新审阅后同意了 184 条。同意率为 92%，也就是说，如果没有人工审核，可能有 16 名候选人被错误拒绝。

这个数字同时满足了附件四对上市后阶段的要求。你可以写下一个假设阈值，例如：同意率连续两周低于 90%，就重开风险登记表。这正是第 9 条所说的迭代过程，只是写成了任何人都能核查的规则。

## 自己动手的五个步骤

1. 按第 25 条确定角色并写在第一页：谁是提供者，谁来部署，哪些改动可能改变这些角色。
2. 按受影响的人而不是技术组件列出风险。每一行都要有缓解措施、剩余风险等级和接受人的姓名。
3. 选定一个主要指标，并按附件四的要求，写一小段话说明它为何适合这个系统。
4. 把人工监督和日志放在一起设计。第 26 条要求客户把监督工作交给具备必要能力、培训和权限的人员，并保存系统自动生成的日志。
5. 制定部署后监控计划，写明具体阈值和突破阈值后的处置动作；再询问法务，客户是否需要按第 27 条开展基本权利影响评估。

第 4 步最能体现 FDE 的价值。第 26 条的义务由客户承担，但只有你的系统记录了足够的日志、提供了清晰的审核界面，客户才可能做到。

如果委员会还不熟悉 EU AI Act 的话语体系，美国国家标准与技术研究院（NIST）的 AI 风险管理框架（AI RMF）可以作为共同基础。它是一个自愿性框架，能帮助双方在讨论具体条款之前，先就如何谈论风险达成一致。

## 让文档被打回的错误

最常见的错误是风险登记表里没有剩余风险一列。缓解措施列得很细，却始终没说还剩多少风险，委员会也就无从接受。

其次是把人工审核当作自动生效的缓解措施。不衡量同意率、不做培训，“人在回路”就成了橡皮图章。

最后是读错时间表。Omnibus 一揽子方案把附件三中独立高风险系统的截止日期推迟到 2027 年 12 月 2 日，把附件一中嵌入产品的系统推迟到 2028 年 8 月 2 日。

但新日期只有在《欧盟官方公报》（Official Journal）上公布后才具有法律效力。根据 iubenda 于 2026 年 7 月 10 日的更新，公布尚未得到确认；在此之前，仍适用法案原定的时间表。请自行查阅 EUR-Lex，不要转引评论文章。

## 这项能力如何体现在简历和面试中

阅读面向欧洲客户的 FDE 岗位描述时，留意“AI governance”“model risk”或“regulated industries”这类字眼。看到这些词，就直接问招聘方：FDE 是否需要向客户的 AI 委员会汇报？如果需要，下面这个例子值得带上。

一条有分量的简历描述是这样的：“设计每周抽样 200 条建议的流程，衡量审核人员同意率，并设定阈值，自动触发风险评估重开。”它表明你能把合规要求转化为可运营的指标。

面试时准备回答类似问题：“两周内同意率从 184/200 降到 170/200，你怎么办？”注意，170/200 是 85%，已经低于上文假设的 90% 阈值。

好的回答分三步：检查日志，看输入是否发生变化；暂时把拒绝建议转回人工审核；然后更新风险登记表，并通知签字接受风险的人。

一份好的模型风险文档不会让委员会不再担心。它会明确告诉委员会该担心什么，以及数字开始下滑时由谁拍板。

**本周动手试试:**

- 选一个你正在部署的系统，写一份四行的风险登记表，各列齐全：风险、缓解措施、剩余风险、接受人。
- 写一段五句话，说明该系统的主要指标为什么比准确率更合适。
- 查阅 EUR-Lex，确认 Omnibus 的延期是否已在《欧盟官方公报》上公布。

## 信源

- [Article 9: Risk Management System | EU Artificial Intelligence Act](https://artificialintelligenceact.eu/article/9/)

- [Annex IV: Technical Documentation Referred to in Article 11(1) | EU Artificial Intelligence Act](https://artificialintelligenceact.eu/annex/4/)

- [Article 25 | EU Artificial Intelligence Act](https://artificialintelligenceact.eu/article/25/)

- [Article 26: Obligations of Deployers of High-Risk AI Systems | EU Artificial Intelligence Act](https://artificialintelligenceact.eu/article/26/)

- [Article 14: Human Oversight | EU Artificial Intelligence Act](https://artificialintelligenceact.eu/article/14/)

- [Article 27: Fundamental Rights Impact Assessment | EU Artificial Intelligence Act](https://artificialintelligenceact.eu/article/27/)

- [EU AI Act Omnibus Agreement — Postponed High-Risk Deadlines and Other Key Changes](https://www.gibsondunn.com/eu-ai-act-omnibus-agreement-postponed-high-risk-deadlines/)

- [AI Omnibus adopted: what still applies from August 2](https://www.iubenda.com/en/blog/ai-omnibus-adopted-august-2-obligations-july-2026/)

- [AI Risk Management Framework | NIST](https://www.nist.gov/itl/ai-risk-management-framework)
