欧盟客户的 AI 委员会不会问你模型有多准
依据 AI Act 第 9 条,它只问剩下什么风险、由谁接受,风险文档必须持续更新。

要点速览
- 按第 9 条,风险管理是持续、迭代的过程,委员会会直接问剩余风险是否可以接受。
- 附件四要求说明所选指标为何合适,并描述部署后如何评估性能。
- Omnibus 一揽子方案中的延期只有在《欧盟官方公报》上公布后才具有法律效力,请自行查阅 EUR-Lex。
距离上线还有两周。客户的 AI 委员会发来一封邮件,只有一个问题:“这个系统的剩余风险是否可以接受?由谁决定的?”
你有仪表盘,有评测套件,还有一个运行流畅的演示。但它们都回答不了这个问题。
对服务欧洲客户的前线部署工程师(FDE)来说,项目往往就卡在这一刻:要么继续推进,要么再等一个季度。这里需要的能力不是把法条背熟,而是把已经做完的技术工作,整理成委员会读得懂的论证。
委员会不读代码,只读论证
欧盟《人工智能法案》(EU AI Act)第 9 条要求,高风险 AI 系统必须建立、实施、记录并维护风险管理体系。其中最关键的词是“维护”。
法条写得很明白:这一过程应理解为持续、迭代的过程。因此,你的文档不是提交一次就被遗忘的 PDF,而是与系统一起存续。
第 9 条也指明了终点:整体剩余风险必须被判定为可以接受。这正是邮件里问的问题。委员会不需要零风险,它需要看到风险已被指出、已被降低,而且剩下的部分有人签了字。
附件四(Annex IV)规定了文档的最低内容,包括:按第 9 条对风险管理体系的详细描述;说明性能指标为何适合这个具体系统;描述在上市后阶段如何评估性能。
定制之后,你会变成提供者吗?
动笔之前,先确定角色。第 25 条规定,部署者或第三方如果改变了系统的预期用途,使其成为高风险系统,或者对系统做了实质性修改,就可能被视为提供者。
如果一方在已上市的高风险系统上加上自己的名称或商标,第 25 条同样适用。设想你的团队拿来一个通用模型,编写提示词和工具,让它筛选求职申请。
如果客户的法务团队把这一新用途归为高风险,第 25 条就可能把你的公司拉进提供者的角色。
实用的做法是在文档第一页写明角色:谁是提供者,谁是部署者,团队的哪些改动可能让角色发生变化。
法务需要这一页,因为角色决定了谁承担提供者的义务,包括按第 9 条建立并维护风险管理体系。这件事没定下来,后面每一页该署谁的名字都无从谈起。
实例:简历筛选 Agent
设想你为一家德国招聘公司部署了一个 Agent,它阅读简历,并建议拒绝或保留候选人。假设客户的法务团队已将该系统归为高风险。文档的核心是下面这样一份风险登记表。
| 风险 | 缓解措施 | 剩余风险 | 接受人 |
|---|---|---|---|
| Agent 错误拒绝了合格候选人 | 每条拒绝建议都由招聘人员审核 | 低 | 招聘负责人 |
| 招聘人员不假思索地批准,过度信任机器 | 展示拒绝理由、每周抽查、培训审核人员 | 中 | 招聘负责人 |
| 新的简历格式导致解析器读错 | 记录每次运行的日志,错误率上升时告警 | 低 | 工程负责人 |
| 系统需要紧急停止 | 停止按钮把所有流程转回人工 | 低 | 首席运营官 |
第二行和第四行不是摆设。第 14 条要求,负责人工监督的人员必须能通过“停止”按钮或类似程序中断系统,并始终意识到过度依赖系统输出的风险。
接下来是指标。附件四要的不只是数字,还要求你说明所选指标为何适合这个具体系统。如果只报准确率,就要准备好回答:准确率衡量的东西,受影响的人真的在乎吗?
对这个 Agent 来说,值得衡量的是审核人员对拒绝建议的同意率。假设每周抽取 200 条拒绝建议,招聘人员重新审阅后同意了 184 条。同意率为 92%,也就是说,如果没有人工审核,可能有 16 名候选人被错误拒绝。
这个数字同时满足了附件四对上市后阶段的要求。你可以写下一个假设阈值,例如:同意率连续两周低于 90%,就重开风险登记表。这正是第 9 条所说的迭代过程,只是写成了任何人都能核查的规则。
自己动手的五个步骤
- 按第 25 条确定角色并写在第一页:谁是提供者,谁来部署,哪些改动可能改变这些角色。
- 按受影响的人而不是技术组件列出风险。每一行都要有缓解措施、剩余风险等级和接受人的姓名。
- 选定一个主要指标,并按附件四的要求,写一小段话说明它为何适合这个系统。
- 把人工监督和日志放在一起设计。第 26 条要求客户把监督工作交给具备必要能力、培训和权限的人员,并保存系统自动生成的日志。
- 制定部署后监控计划,写明具体阈值和突破阈值后的处置动作;再询问法务,客户是否需要按第 27 条开展基本权利影响评估。
第 4 步最能体现 FDE 的价值。第 26 条的义务由客户承担,但只有你的系统记录了足够的日志、提供了清晰的审核界面,客户才可能做到。
如果委员会还不熟悉 EU AI Act 的话语体系,美国国家标准与技术研究院(NIST)的 AI 风险管理框架(AI RMF)可以作为共同基础。它是一个自愿性框架,能帮助双方在讨论具体条款之前,先就如何谈论风险达成一致。
让文档被打回的错误
最常见的错误是风险登记表里没有剩余风险一列。缓解措施列得很细,却始终没说还剩多少风险,委员会也就无从接受。
其次是把人工审核当作自动生效的缓解措施。不衡量同意率、不做培训,“人在回路”就成了橡皮图章。
最后是读错时间表。Omnibus 一揽子方案把附件三中独立高风险系统的截止日期推迟到 2027 年 12 月 2 日,把附件一中嵌入产品的系统推迟到 2028 年 8 月 2 日。
但新日期只有在《欧盟官方公报》(Official Journal)上公布后才具有法律效力。根据 iubenda 于 2026 年 7 月 10 日的更新,公布尚未得到确认;在此之前,仍适用法案原定的时间表。请自行查阅 EUR-Lex,不要转引评论文章。
这项能力如何体现在简历和面试中
阅读面向欧洲客户的 FDE 岗位描述时,留意“AI governance”“model risk”或“regulated industries”这类字眼。看到这些词,就直接问招聘方:FDE 是否需要向客户的 AI 委员会汇报?如果需要,下面这个例子值得带上。
一条有分量的简历描述是这样的:“设计每周抽样 200 条建议的流程,衡量审核人员同意率,并设定阈值,自动触发风险评估重开。”它表明你能把合规要求转化为可运营的指标。
面试时准备回答类似问题:“两周内同意率从 184/200 降到 170/200,你怎么办?”注意,170/200 是 85%,已经低于上文假设的 90% 阈值。
好的回答分三步:检查日志,看输入是否发生变化;暂时把拒绝建议转回人工审核;然后更新风险登记表,并通知签字接受风险的人。
一份好的模型风险文档不会让委员会不再担心。它会明确告诉委员会该担心什么,以及数字开始下滑时由谁拍板。
这篇文章对你有帮助吗?
感谢你的反馈!
9 个信源
- Article 9: Risk Management System | EU Artificial Intelligence Act
- Annex IV: Technical Documentation Referred to in Article 11(1) | EU Artificial Intelligence Act
- Article 25 | EU Artificial Intelligence Act
- Article 26: Obligations of Deployers of High-Risk AI Systems | EU Artificial Intelligence Act
- Article 14: Human Oversight | EU Artificial Intelligence Act
- Article 27: Fundamental Rights Impact Assessment | EU Artificial Intelligence Act
- EU AI Act Omnibus Agreement — Postponed High-Risk Deadlines and Other Key Changes
- AI Omnibus adopted: what still applies from August 2 · 2026-07-10
- AI Risk Management Framework | NIST