FDE Times 数据在招 FDE 职位 873▼9 近 7 天在招职位数的变化(同口径比较):不计入本周新开始追踪的公司的职位近 7 天新增 55在招公司 181支持远程 25%美国薪资中位数 $200k招聘最多 Databricks 98
ENVI

前线部署工程师(FDE)的专业媒体

书籍与课程

安全评审之前,先问 Shostack 的四个问题

2014 年版威胁建模经典至今适用,2027 年新版为部署 Agent 的工程师新增两章 LLM 内容。

封面: Threat Modeling: Designing for Security
Threat Modeling: Designing for Security · Adam Shostack · 封面图片:Open Library
分享微博

要点速览

  • Adam Shostack 曾在 Microsoft 负责威胁建模,这本 624 页的书围绕四个简短的问题展开。
  • 第二版将于 2027 年 2 月 2 日出版,约一半内容为新写或重写,其中包括两章 LLM 内容。
  • FDE 应在安全评审之前先画好威胁模型,再与客户的安全团队逐项讨论。
Adam Shostack 威胁建模四个问题的环形示意图,按顺时针排列:1. 我们在做什么?2. 可能出什么问题?3. 应对每个威胁。4. 我们做得好吗?第四个问题及指回第一个问题的箭头以橙色突出,表示最后一个问题让循环闭合。
Adam Shostack 4QuestionFrame 仓库中的四个问题。只有在 Agent 每获得一个新数据源或新工具时都重新走一遍这个循环,威胁建模才有用。来源:Adam Shostack,GitHub 上的 4QuestionFrame 仓库。

这本书长达 624 页,核心却只有四个问题。Adam Shostack 曾在 Microsoft 负责安全开发生命周期中的威胁建模,他把这四个问题放在 Threat Modeling: Designing for Security 一书的中心。该书由 Wiley 于 2014 年 2 月出版。

每个前线部署工程师(FDE)迟早都会遇到客户的安全团队,被问到数据去哪儿、谁能接触、泄露了怎么办。带着画好的模型进场,和临场凭印象作答,处境截然不同。这本书教的,就是在别人开口之前把模型准备好。

不过,读哪个版本需要想一想。第二版更名为 Threat Modeling: Designing for Security in an AI World,预计 2027 年 2 月 2 日出版。据 Shostack 介绍,全书约一半内容为新写或大幅重写,其中包括两章全新的 LLM 内容。目前在售的仍是 2014 年版。

从“你”到“我们”

初版用第二人称表述这四个问题。IEEE Cipher 2014 年的书评引用的第一个问题是“What are you building?”(你在构建什么?)。Shostack 在 GitHub 上的 4QuestionFrame 仓库如今改用“我们”:“What are we working on?”(我们在做什么?)、“What can go wrong?”(可能出什么问题?),接着是如何应对每个威胁的问题,最后是“Did we do a good job?”(我们做得好吗?)。

改一个代词只是小改动,对 FDE 却很重要。威胁模型不再是外部人员带进来给产品团队打分的审计,而是双方共同完成的工作。在客户现场,“我们”指的就是你和对方的安全工程师坐在一起。

举个例子:一个 Agent 部署在保险公司内部,读取内部文档并回答员工提问。第一个问题逼你画出架构图:用户、聊天界面、Agent、文档库、模型 API。在图上圈出数据离开客户网络的位置。

第二个问题沿着图上的每条箭头走一遍。员工可能诱导系统吐出自己无权查看的文档;文档里可能藏着指令,让 Agent 去做别的事;日志也可能把敏感内容保存得比必要的更久。

第三个问题为每个威胁配上应对措施:检索前按访问权限过滤,限制 Agent 可调用的工具,为日志设定保留期限。第四个问题检验成果:每项决定是否都有负责人和测试?架构图是否仍与正在运行的系统一致?

这个例子里最常见的两个错误,分别出现在循环的两端。一是双方还没就架构图达成一致,就急着列威胁,结果每个人讨论的是不同的系统。二是停在第三个问题:缓解措施清单有了,却没人去检查。

三个值得带走的观点

第一,模型必须先于威胁清单。如果没人对系统的样子达成共识,也就没法对可能出的问题达成共识。作者本人很看重这一点:第二版新增了一章专讲架构图和模型,由旧版“策略”一章中约十几页的内容扩展而来。

第二,“可能出什么问题?”是安全领域之外的人也能回答的问题。这样一来,你可以把客户的业务专家、数据工程师和产品经理拉进同一场讨论。他们往往知道任何架构图都没记录的薄弱环节。

第三,最后一个问题让循环闭合。写一次就搁置的威胁模型,每部署一次就过时一分。对 FDE 来说,Agent 每接入一个新数据源或新工具,都是重新问一遍“我们做得好吗?”的时机。

读哪个版本,按什么顺序?

现在,先从 4QuestionFrame 仓库开始。它免费、简短,足以为手头的项目画出初稿。如果需要马上深入,2014 年版依然值得一读。IEEE Cipher 的书评作者的结论是,这本书“definitely a must-read”(绝对必读)。

如果主要工作是部署 LLM 和 Agent,等 2027 年版更合适。两章 LLM 内容和扩充后的架构图章节,正对准你在客户现场做的事。shostack.org 上的图书页面附有 Wiley 的购买链接。

对职业发展而言,一页去掉客户名称的威胁模型,是很少有候选人拿得出的作品集素材。浏览招聘信息时,留意 security review(安全评审)或 client security questionnaire(客户安全问卷)这类字眼:它们说明这项工作会是岗位职责的一部分。

面试时,讲清楚自己如何针对一个真实系统回答这四个问题,通常比罗列工具更有说服力。

客户的安全团队迟早会来问。做那个把架构图带进会议室的人,让他们在图上提意见,而不是从一张白纸开始。

这篇文章对你有帮助吗?

5 个信源
路线图上的下一篇 · 阶段 5: 部署上线Rob Zuber 称 LLM 测试工具已备齐九成他的一小时课程论证有力,但缺的那一成往往出在客户那边。