客户的影子 AI 不是事故现场,而是需求清单
一次不追责的访谈,能把数据外泄风险变成项目的第一份用例清单。
要点速览
- 在你到场之前,客户员工几乎肯定已经把数据粘贴进公共聊天机器人
- 禁令收不回已经发出的数据,也消除不了背后的工作需求
- 每一次粘贴都是一个用例,带有数据类型和频率,应先整理清单,再用经批准的工具替代
设想你在一家保险公司的第一周。你正在访谈理赔团队,准备设计一个内部助手,团队负责人随口说了一句:“报告我们早就在做摘要了,直接粘贴进 ChatGPT 就行。”
会议室安静了几秒,有人瞟了一眼 IT 部门的同事。你在这几秒里的反应,决定了这次需求调研还能不能继续。只要你露出惊慌或责备的神色,之后就没人会对你说真话了。
这种场景并不少见。TELUS Digital 的一项调查发现,68% 的员工在工作中使用个人 AI 账号,其中 57% 承认输入过敏感信息。
PagerDuty 2026 年的影子 AI 调查发现,34% 的办公室员工曾把客户数据或信息输入公共 AI 工具,31% 输入过财务信息或机密文件和战略。
前线部署工程师(FDE)把 AI 引入一家公司时,这样的粘贴几乎总是早已发生。
禁令收不回已经粘贴出去的数据
最常见的反应是禁用。2023 年,三星一名工程师把内部敏感源代码上传到 ChatGPT,造成意外泄露,公司随即发布备忘录,禁止使用生成式 AI 工具。公司给出的理由是:发送给聊天机器人的数据会留存在服务运营方的服务器上。
这种担心有道理,但禁令只能阻止以后的粘贴,收不回已经发出的数据。每天早上那一摞等着做摘要的报告也不会因此消失。没有替代工具,需求依然存在,大家很可能会转向更隐蔽的变通办法。
通常也没有现成的政策可依。IBM 发布的《2025 年数据泄露成本报告》发现,63% 发生数据泄露的组织没有 AI 治理政策来管理 AI 或防范影子 AI。你很可能是第一个系统地提出这个问题的人。
如果需要说服项目发起人,还有一个成本上的理由。同一份报告发现,影子 AI 程度高的组织,数据泄露的全球平均成本要多出 670,000 美元。因此,让 AI 的使用公开化,比禁用后任其转入地下更有价值。
每一次粘贴都是一个用例
核心思路很简单:影子 AI 既告诉你风险在哪里,也告诉你用户真正需要什么。
员工每次把数据粘贴进聊天机器人,都会给你四样任何研讨会都很难挖出来的信息:哪项任务最耗时间,涉及什么数据,发生得多频繁,以及他们已经认为够用的结果是什么水平。
换个角度看,你的角色也变了。你不是来抓错的,而是来盘点用户已经在做的事,再把这些事迁移到受控的环境中。
提前估一个数字
假设理赔团队有 40 人。把 TELUS 的比例当作粗略估算,而不是实测数据:40 人的 68% 约为 27 人在使用个人 AI 账号。其中 57% 输入过敏感信息,约为 15 人。
这个数字不是写进报告用的,而是帮你问对问题。一旦假定可能有多达 15 人粘贴过敏感数据,你就不会再问“有没有人在用”,而是问“用来做什么,涉及哪类数据”。
访谈话术
访谈前,先与项目发起人和客户的安全对接人约定边界:你只收集任务和数据类型,绝不记录姓名。
如果遇到受严格监管的数据,例如病历或账号,你只向事先约定好的那一个人报告。正是这条边界,让你“不追责”的承诺可信。
开场先用一句话打消戒备:“我不是来检查谁的。我想知道哪些任务繁重到大家不得不自己找工具,这样新工具就能把这些活儿准确地接过去。”
然后按顺序问五个问题。“你最常让 AI 做什么?”“你会往里粘贴什么:报告、邮件还是表格?”“大概每周几次?”“什么样的结果你觉得能用?”“如果从明天起不能用这个工具,哪些工作会慢下来?”
最后一个问题最有价值。它能告诉你哪些工作真正值得优先处理,也能让发起人看到禁令会拖慢什么。把答案记录到如下清单中:
| 任务 | 工具及账号类型 | 数据类型 | 频率 | 风险 | 下一步 |
|---|---|---|---|---|---|
| 为定损员报告做摘要 | 公共聊天机器人,个人账号 | 投保人信息 | 每天 | 高 | 内部助手的第一个用例 |
| 起草客户回复 | 公共聊天机器人,个人账号 | 姓名、保单号 | 每周数次 | 中 | 提供带数据脱敏的现成模板 |
| 改写表格公式 | 公共聊天机器人,个人账号 | 不含客户数据 | 偶尔 | 低 | 记录在案,暂不处理 |
从清单到经批准的工具
清单整理好后,按风险和频率两列排序。风险高且每天都做的那一行,就是第一次部署的范围。理由很实际:替换掉它,既消除了最大的风险,又能立刻获得每天使用的用户。
至于已经发出的数据,交给客户的安全团队评估并决定如何处理。把清单交给他们即可,不要自行判断后果,也不要向任何人保证数据安全。
构建替代工具时,从一开始就设计访问控制,不要留到项目收尾。IBM 的数据显示,在发生过 AI 相关安全事件的组织中,97% 表示缺乏完善的 AI 访问控制。这个数字涵盖的是一般意义上的 AI 事件,但它说明了漏洞通常出在哪里。
最后一步是与客户一起写一份简短的政策:哪类数据可以放进哪些工具。基于真实清单写出的政策,会比凭空起草的更贴合实际。
让你失去信任的错误
最常见的错误是记录姓名。只要有一个名字流入给管理层的报告,之后的每次访谈都只会得到稳妥的答案。第二个错误是以“超出范围”为由把一切推给安全团队,而恰恰是这份清单界定了真正的范围。
第三个错误是为了省事随口提议禁用,却不提供替代工具。第四个错误最容易犯,因为是你自己造成的:为了调试更快,把客户日志或样例数据粘贴进个人 AI 账号。这时,你自己就成了清单里的一行。
如何把这项技能写进简历
如果你瞄准的 FDE 招聘启事提到 AI 治理、安全评审或与客户安全团队协作,就把这项技能放在靠前的位置。在简历上要用结果来表述:例如,你在多大规模的团队中盘点了未经批准的 AI 使用情况,以及哪些用例被迁移到了受控工具上。
在行为面试中,这也是一个很有说服力的故事:一个敏感局面,一个你兑现了的不追责承诺,以及由此促成的一次部署。面试官会看到,你既能完成工程交付,也能守住客户的信任。
听到“我们早就粘贴进 ChatGPT 了”之后那几秒的沉默,是整个需求调研中你能获得最真实信息的时刻。别让它在皱眉中溜走。
这篇文章对你有帮助吗?
感谢你的反馈!
4 个信源
- 2025 Cost of a Data Breach Report: Navigating the AI rush without sidelining security
- Shadow AI: The Hidden Threat to Enterprise Security
- Samsung bans ChatGPT among employees after sensitive code leak · 2023-05-02
- L'intelligence artificielle parallèle est à l'œuvre au sein de votre organisation. · 2026-06-11