Klarna 重回人工客服,暴露了厂商 AI 清单没说的事
经得起真实用户考验的用例,要么有人为结果签字,要么有每天可核查的指标。
要点速览
- 2024 年 2 月,Klarna 称其 AI 助手已处理三分之二的客服对话;到 2025 年 5 月,其 CEO 却表示未来在于人工服务的质量。
- 描述最清楚的 RAG 用例范围都很窄:带来源的内部问答、交由专家审核的合规问卷草稿、供律师使用的判例检索。
- 对前线部署工程师(FDE)来说,难点在于设计数据源、引用、人工转接和指标,选模型反而是最容易的部分。
2024 年 2 月,Klarna 宣布其基于 OpenAI 构建的 AI 助手上线首月处理了 230 万次对话,占公司客服对话的三分之二。十五个月后,同一家公司的 CEO 表示,投入人工服务的质量才是前进方向。
这两种说法并不矛盾。它们揭示了一个在企业中部署 AI 的人迟早会遇到的规律:演示看的是自动化了多少工作,而长期运行的系统看的是机器出错时由谁来纠正。
如果想转型做前线部署工程师(FDE),这是最有价值的一课。客户会带着从厂商博客上抄来的用例清单找上门。你的工作是指出哪些用例背后有运营证据,以及每个用例需要什么,才不至于在真实用户到来时崩掉。
厂商清单很长,但不是每一项都有数字
用例盘点读多了,很容易得出 AI 已经渗透到各行各业的结论。Glean 按行业对检索增强生成(RAG)做了归类:客服用 RAG 调取产品信息和客户历史,给出个性化回复;法律领域则用它检索判例和法条,帮助律师做研究和起草文书。
Codica 列举了金融领域能识别异常和欺诈迹象的智能体。这些都说得通,但描述的是能力,而不是运营证据。
厂商博客能告诉你哪类问题可以着手解决,却不会告诉你错误答案的比例、用户是否信任系统,以及出了问题由谁负责。
所以读到一个用例时,先问五个问题:数据从哪里来;答案是否指明来源;结果到达最终用户前由谁审核;系统什么时候必须停下来转交给人;如果没人审核,那改为衡量什么。
对下面每个例子回答这五个问题,它们会自然分成几个清晰的类别。
有人读结果时,RAG 效果最好
theblue.ai 描述的两个用例值得细看,因为它们的结构都易于把控。第一个是内部问答:系统几秒内给出答案,并注明所依据的文档。
第二个是重复性的合规问卷或招标文件:RAG 根据政策和技术文档起草答案,再由专家审核批准。
两者的共同点在于,机器没有最终决定权。带引用的答案,读者可以自行核查;经专家审核的草稿,错误的句子会在发出前被发现。判例研究也是同样的模式:研究和起草仍由律师完成。
设想一个场景:一家 B2B 软件公司每季度收到约 40 份安全问卷,每份有几百个问题,其中大部分在不同问卷间重复。如果 RAG 能起草大部分答案,专家只需修改难题,节省的时间是实打实的,风险也仍掌握在懂业务的人手里。
能拿到预算批复的用例,正是这种形态。
Klarna 展示了客服智能体的长处与断点
根据公司自己公布的数据,客户对 AI 助手的满意度与人工客服持平,重复咨询下降了 25%,不过这些是公司自报数据,并非独立审计结果。
2025 年 5 月,Klarna CEO 的口风变了:据 Entrepreneur 报道,公司正在重新招聘客服人员,并承诺想与真人沟通的客户总能如愿。这里的教训不是 AI 失败了。它可以理解为一种转变:从把自动化当作目标的设计,转向把转交人工视为必备功能的设计。
设想一位客户咨询退款,但退款详情在支付系统里,投诉历史在工单系统里,机器人只看到了局部,于是自信满满地给出了错误答案。
正因如此,对 FDE 来说,客服项目的第一个问题是智能体能读取哪些系统,而不是选哪个模型。第二个问题是,智能体依靠什么信号判断自己信息不足、必须转交给人。
商品推荐是指标最清晰的 AI
关于推荐系统,Algolia 引用的数据显示,推荐贡献了电商收入的 31% 之多,并转述了 Netflix 80% 的观看内容来自推荐系统的说法。两者都是二手数据,出自一家销售搜索和推荐工具的厂商的文章,仅供参考。
更有启发的是这个问题在实践中如何运转。没有人逐条审核推荐,但一条糟糕的推荐通常只会让用户划过去,结果则通过行为来衡量:用户是否点击、购买或继续观看。系统能够全自动运行,靠的是这个反馈回路,而不是模型更聪明。
把三类用例放进一张表,会浮现出任何用例盘点都没有明说的规律。
| 用例 | 行业 | 所需数据 | 谁来签字 | 现有证据 |
|---|---|---|---|---|
| 带引用的内部问答 | 各行业 | 内部文档 | 提问者核对来源 | 厂商描述 |
| 起草合规问卷、标书 | B2B | 政策、技术文档 | 专家审核 | 厂商描述 |
| 判例和法条研究 | 法律 | 判例、法规 | 律师 | 厂商描述 |
| 客服智能体 | 金融科技、零售 | 产品、客户历史、多个系统 | 智能体,必要时转交人工 | Klarna 自报,2025 年做出调整 |
| 异常和欺诈检测 | 金融 | 交易 | 须逐案设计 | 仍只是能力清单 |
| 商品推荐 | 电商、流媒体 | 用户行为 | 自动,按行为衡量 | 二手数据,可衡量 |
规律是:出错代价越高,越需要有人签字;没人签字的地方,就必须有每天衡量的指标。两者皆无的用例,比如独自回答所有投诉、没有转人工通道的智能体,正是项目最可能被迫掉头的地方。
FDE 作品集要展示人工转接,而不是聊天机器人
如果准备转型 FDE 岗位,不要把作品集建立在一个“有问必答”的聊天机器人上。
用真实数据搭一个范围窄的 RAG 系统,比如公开的法律文本、某所大学的规章制度或某个开源项目的产品文档,要求每个答案都注明来源,然后公布自己测得的引用准确率。
简历上写一句“为低置信度答案设计了转人工流程,每周跟踪转接率”,远比“用 GPT 搭建了聊天机器人”有分量。
看岗位描述时,留意是否提到评测、人在回路(human-in-the-loop)或多源系统集成,这说明公司已经走过演示阶段,正在处理真实运营。
与客户第一次开工作会时,在提出任何方案之前先问:现在由谁为答案签字?他们将如何检查机器?这两个问题的答案,基本决定了第一个用例该做什么。
Klarna 的案例并不能证明客服智能体是个坏主意。它说明,即便 AI 已经在处理三分之二的对话,客户在需要时仍希望另一端有个真人。
这篇文章对你有帮助吗?
感谢你的反馈!
7 个信源
- Retrieval augmented generation use cases: Transforming data into insights (Glean) · 2024-05-10 (last updated)
- Retrieval Augmented Generation (RAG) – 5 Use Cases (theblue.ai) · 2024-04-30
- Klarna AI assistant handles two-thirds of customer service chats in its first month · 2024-02-27
- Klarna Is Hiring Customer Service Agents After AI Couldn't Cut It on Calls, According to the Company's CEO · 2025-05-09
- What Role does AI Play in Recommendation Systems and Engines? (Algolia) · 2024-06-12
- A Brief Guide on AI Agents: Benefits and Use Cases (Codica) · 2024-08-02
- Top 15 Use Cases Of AI Agents In Business (Ampcome) · 2024-04-25