FDE Times 数据在招 FDE 职位 924▲33 近 7 天在招职位数的变化(同口径比较):不计入本周新开始追踪的公司的职位近 7 天新增 80在招公司 196支持远程 25%美国薪资中位数 $200k招聘最多 Databricks 107
ENVI

前线部署工程师(FDE)的专业媒体

技能指南 · 指南

欧盟客户的 AI 委员会不会问你模型有多准

依据 AI Act 第 9 条,它只问剩下什么风险、由谁接受,风险文档必须持续更新。

2023 年欧盟《人工智能法案》起草期间,一名 Ekō 活动人士在斯特拉斯堡欧洲议会背景板和欧盟旗帜前举着“支持强有力的 AI 法案”标语牌。
图片:Ekō (formerly SumOfUs) / CC BY 2.0
分享微博

要点速览

  • 按第 9 条,风险管理是持续、迭代的过程,委员会会直接问剩余风险是否可以接受。
  • 附件四要求说明所选指标为何合适,并描述部署后如何评估性能。
  • Omnibus 一揽子方案中的延期只有在《欧盟官方公报》上公布后才具有法律效力,请自行查阅 EUR-Lex。
四个方框用箭头相连,展示简历筛选 Agent 风险登记表中的一行。方框 1 是风险:招聘人员不假思索地批准,过度信任机器。方框 2 是缓解措施:展示拒绝理由、每周抽查、培训审核人员。方框 3 用橙色底纹标出剩余风险:中。方框 4 是签字负责人:招聘负责人。一个箭头向下指向第 9 条循环面板,面板显示本周审核人员同意率为 92%,即招聘人员同意了 200 条拒绝建议中的 184 条。一条从 80% 到 100% 的刻度按假设的 90% 阈值分为低于阈值区和安全区,标出本周的 92% 和作为未达标示例的 85%(170/200)。重开规则写道:连续两周低于 90% 就重开风险登记表、更新内容并通知签字人。从这条规则引出的箭头回到方框 1。
AI 委员会并不要求零风险。它想知道还剩什么风险、由谁签字接受,还需要一个明确的阈值,指标下滑时据此重开风险登记表。文中的 90% 阈值和 85% 示例均为假设。

距离上线还有两周。客户的 AI 委员会发来一封邮件,只有一个问题:“这个系统的剩余风险是否可以接受?由谁决定的?”

你有仪表盘,有评测套件,还有一个运行流畅的演示。但它们都回答不了这个问题。

对服务欧洲客户的前线部署工程师(FDE)来说,项目往往就卡在这一刻:要么继续推进,要么再等一个季度。这里需要的能力不是把法条背熟,而是把已经做完的技术工作,整理成委员会读得懂的论证。

委员会不读代码,只读论证

欧盟《人工智能法案》(EU AI Act)第 9 条要求,高风险 AI 系统必须建立、实施、记录并维护风险管理体系。其中最关键的词是“维护”。

法条写得很明白:这一过程应理解为持续、迭代的过程。因此,你的文档不是提交一次就被遗忘的 PDF,而是与系统一起存续。

第 9 条也指明了终点:整体剩余风险必须被判定为可以接受。这正是邮件里问的问题。委员会不需要零风险,它需要看到风险已被指出、已被降低,而且剩下的部分有人签了字。

附件四(Annex IV)规定了文档的最低内容,包括:按第 9 条对风险管理体系的详细描述;说明性能指标为何适合这个具体系统;描述在上市后阶段如何评估性能。

定制之后,你会变成提供者吗?

动笔之前,先确定角色。第 25 条规定,部署者或第三方如果改变了系统的预期用途,使其成为高风险系统,或者对系统做了实质性修改,就可能被视为提供者。

如果一方在已上市的高风险系统上加上自己的名称或商标,第 25 条同样适用。设想你的团队拿来一个通用模型,编写提示词和工具,让它筛选求职申请。

如果客户的法务团队把这一新用途归为高风险,第 25 条就可能把你的公司拉进提供者的角色。

实用的做法是在文档第一页写明角色:谁是提供者,谁是部署者,团队的哪些改动可能让角色发生变化。

法务需要这一页,因为角色决定了谁承担提供者的义务,包括按第 9 条建立并维护风险管理体系。这件事没定下来,后面每一页该署谁的名字都无从谈起。

实例:简历筛选 Agent

设想你为一家德国招聘公司部署了一个 Agent,它阅读简历,并建议拒绝或保留候选人。假设客户的法务团队已将该系统归为高风险。文档的核心是下面这样一份风险登记表。

风险 缓解措施 剩余风险 接受人
Agent 错误拒绝了合格候选人 每条拒绝建议都由招聘人员审核 低 招聘负责人
招聘人员不假思索地批准,过度信任机器 展示拒绝理由、每周抽查、培训审核人员 中 招聘负责人
新的简历格式导致解析器读错 记录每次运行的日志,错误率上升时告警 低 工程负责人
系统需要紧急停止 停止按钮把所有流程转回人工 低 首席运营官

第二行和第四行不是摆设。第 14 条要求,负责人工监督的人员必须能通过“停止”按钮或类似程序中断系统,并始终意识到过度依赖系统输出的风险。

接下来是指标。附件四要的不只是数字,还要求你说明所选指标为何适合这个具体系统。如果只报准确率,就要准备好回答:准确率衡量的东西,受影响的人真的在乎吗?

对这个 Agent 来说,值得衡量的是审核人员对拒绝建议的同意率。假设每周抽取 200 条拒绝建议,招聘人员重新审阅后同意了 184 条。同意率为 92%,也就是说,如果没有人工审核,可能有 16 名候选人被错误拒绝。

这个数字同时满足了附件四对上市后阶段的要求。你可以写下一个假设阈值,例如:同意率连续两周低于 90%,就重开风险登记表。这正是第 9 条所说的迭代过程,只是写成了任何人都能核查的规则。

自己动手的五个步骤

  1. 按第 25 条确定角色并写在第一页:谁是提供者,谁来部署,哪些改动可能改变这些角色。
  2. 按受影响的人而不是技术组件列出风险。每一行都要有缓解措施、剩余风险等级和接受人的姓名。
  3. 选定一个主要指标,并按附件四的要求,写一小段话说明它为何适合这个系统。
  4. 把人工监督和日志放在一起设计。第 26 条要求客户把监督工作交给具备必要能力、培训和权限的人员,并保存系统自动生成的日志。
  5. 制定部署后监控计划,写明具体阈值和突破阈值后的处置动作;再询问法务,客户是否需要按第 27 条开展基本权利影响评估。

第 4 步最能体现 FDE 的价值。第 26 条的义务由客户承担,但只有你的系统记录了足够的日志、提供了清晰的审核界面,客户才可能做到。

如果委员会还不熟悉 EU AI Act 的话语体系,美国国家标准与技术研究院(NIST)的 AI 风险管理框架(AI RMF)可以作为共同基础。它是一个自愿性框架,能帮助双方在讨论具体条款之前,先就如何谈论风险达成一致。

让文档被打回的错误

最常见的错误是风险登记表里没有剩余风险一列。缓解措施列得很细,却始终没说还剩多少风险,委员会也就无从接受。

其次是把人工审核当作自动生效的缓解措施。不衡量同意率、不做培训,“人在回路”就成了橡皮图章。

最后是读错时间表。Omnibus 一揽子方案把附件三中独立高风险系统的截止日期推迟到 2027 年 12 月 2 日,把附件一中嵌入产品的系统推迟到 2028 年 8 月 2 日。

但新日期只有在《欧盟官方公报》(Official Journal)上公布后才具有法律效力。根据 iubenda 于 2026 年 7 月 10 日的更新,公布尚未得到确认;在此之前,仍适用法案原定的时间表。请自行查阅 EUR-Lex,不要转引评论文章。

这项能力如何体现在简历和面试中

阅读面向欧洲客户的 FDE 岗位描述时,留意“AI governance”“model risk”或“regulated industries”这类字眼。看到这些词,就直接问招聘方:FDE 是否需要向客户的 AI 委员会汇报?如果需要,下面这个例子值得带上。

一条有分量的简历描述是这样的:“设计每周抽样 200 条建议的流程,衡量审核人员同意率,并设定阈值,自动触发风险评估重开。”它表明你能把合规要求转化为可运营的指标。

面试时准备回答类似问题:“两周内同意率从 184/200 降到 170/200,你怎么办?”注意,170/200 是 85%,已经低于上文假设的 90% 阈值。

好的回答分三步:检查日志,看输入是否发生变化;暂时把拒绝建议转回人工审核;然后更新风险登记表,并通知签字接受风险的人。

一份好的模型风险文档不会让委员会不再担心。它会明确告诉委员会该担心什么,以及数字开始下滑时由谁拍板。

这篇文章对你有帮助吗?

9 个信源
路线图上的下一篇 · 阶段 5: 部署上线换小模型是降低 LLM 成本的最后一招,不是第一招先建评测,再削减 token:按 OpenAI 的经验,输出 token 减半,延迟大约也能减半。