安全评审之前,先问 Shostack 的四个问题
2014 年版威胁建模经典至今适用,2027 年新版为部署 Agent 的工程师新增两章 LLM 内容。

要点速览
- Adam Shostack 曾在 Microsoft 负责威胁建模,这本 624 页的书围绕四个简短的问题展开。
- 第二版将于 2027 年 2 月 2 日出版,约一半内容为新写或重写,其中包括两章 LLM 内容。
- FDE 应在安全评审之前先画好威胁模型,再与客户的安全团队逐项讨论。
这本书长达 624 页,核心却只有四个问题。Adam Shostack 曾在 Microsoft 负责安全开发生命周期中的威胁建模,他把这四个问题放在 Threat Modeling: Designing for Security 一书的中心。该书由 Wiley 于 2014 年 2 月出版。
每个前线部署工程师(FDE)迟早都会遇到客户的安全团队,被问到数据去哪儿、谁能接触、泄露了怎么办。带着画好的模型进场,和临场凭印象作答,处境截然不同。这本书教的,就是在别人开口之前把模型准备好。
不过,读哪个版本需要想一想。第二版更名为 Threat Modeling: Designing for Security in an AI World,预计 2027 年 2 月 2 日出版。据 Shostack 介绍,全书约一半内容为新写或大幅重写,其中包括两章全新的 LLM 内容。目前在售的仍是 2014 年版。
从“你”到“我们”
初版用第二人称表述这四个问题。IEEE Cipher 2014 年的书评引用的第一个问题是“What are you building?”(你在构建什么?)。Shostack 在 GitHub 上的 4QuestionFrame 仓库如今改用“我们”:“What are we working on?”(我们在做什么?)、“What can go wrong?”(可能出什么问题?),接着是如何应对每个威胁的问题,最后是“Did we do a good job?”(我们做得好吗?)。
改一个代词只是小改动,对 FDE 却很重要。威胁模型不再是外部人员带进来给产品团队打分的审计,而是双方共同完成的工作。在客户现场,“我们”指的就是你和对方的安全工程师坐在一起。
举个例子:一个 Agent 部署在保险公司内部,读取内部文档并回答员工提问。第一个问题逼你画出架构图:用户、聊天界面、Agent、文档库、模型 API。在图上圈出数据离开客户网络的位置。
第二个问题沿着图上的每条箭头走一遍。员工可能诱导系统吐出自己无权查看的文档;文档里可能藏着指令,让 Agent 去做别的事;日志也可能把敏感内容保存得比必要的更久。
第三个问题为每个威胁配上应对措施:检索前按访问权限过滤,限制 Agent 可调用的工具,为日志设定保留期限。第四个问题检验成果:每项决定是否都有负责人和测试?架构图是否仍与正在运行的系统一致?
这个例子里最常见的两个错误,分别出现在循环的两端。一是双方还没就架构图达成一致,就急着列威胁,结果每个人讨论的是不同的系统。二是停在第三个问题:缓解措施清单有了,却没人去检查。
三个值得带走的观点
第一,模型必须先于威胁清单。如果没人对系统的样子达成共识,也就没法对可能出的问题达成共识。作者本人很看重这一点:第二版新增了一章专讲架构图和模型,由旧版“策略”一章中约十几页的内容扩展而来。
第二,“可能出什么问题?”是安全领域之外的人也能回答的问题。这样一来,你可以把客户的业务专家、数据工程师和产品经理拉进同一场讨论。他们往往知道任何架构图都没记录的薄弱环节。
第三,最后一个问题让循环闭合。写一次就搁置的威胁模型,每部署一次就过时一分。对 FDE 来说,Agent 每接入一个新数据源或新工具,都是重新问一遍“我们做得好吗?”的时机。
读哪个版本,按什么顺序?
现在,先从 4QuestionFrame 仓库开始。它免费、简短,足以为手头的项目画出初稿。如果需要马上深入,2014 年版依然值得一读。IEEE Cipher 的书评作者的结论是,这本书“definitely a must-read”(绝对必读)。
如果主要工作是部署 LLM 和 Agent,等 2027 年版更合适。两章 LLM 内容和扩充后的架构图章节,正对准你在客户现场做的事。shostack.org 上的图书页面附有 Wiley 的购买链接。
对职业发展而言,一页去掉客户名称的威胁模型,是很少有候选人拿得出的作品集素材。浏览招聘信息时,留意 security review(安全评审)或 client security questionnaire(客户安全问卷)这类字眼:它们说明这项工作会是岗位职责的一部分。
面试时,讲清楚自己如何针对一个真实系统回答这四个问题,通常比罗列工具更有说服力。
客户的安全团队迟早会来问。做那个把架构图带进会议室的人,让他们在图上提意见,而不是从一张白纸开始。
这篇文章对你有帮助吗?
感谢你的反馈!