只训练 0.07% 参数,用 LoRA 做工单分类器
LoRA 不需要 GPU 集群,决定效果的是一致的标签和只跑一次的测试集。
要点速览
- LoRA 冻结原始权重。在 PEFT 的 Llama-3.2-1B 示例中,1,236,666,368 个参数里只训练 851,968 个。
- 训练损失低本身说明不了什么。超参数在验证集上调,测试集只在最后跑一次。
- adapter 很小(opt-350m 约 6MB,完整权重约 700MB),可以每个任务部署一个 adapter。
在 PEFT 库的 healthcheck 示例中,Llama-3.2-1B 模型共有 1,236,666,368 个参数,实际训练的只有 851,968 个,占 0.0689%,其余全部冻结。
具体数字取决于模型和配置,但它说明了一点:在客户现场工作的工程师,不需要 GPU 集群也能针对一个窄问题微调模型。
工单分类正是这类窄问题:输入是一段文本,输出是固定列表中的一个标签。如果你正打算转向前线部署工程师(FDE)岗位,把这件事从头到尾做完,并能讲清每个决策,就是一个可以在面试中完整展示的项目。
本文介绍如何在小型语言模型上用 LoRA 构建工单分类器。最终你会得到一个紧凑的 adapter,以及一个可信的评测数字。
动手之前需要准备什么?
你需要 Python、Hugging Face 的 peft 库及其配套的 transformers 生态,再加一个小型基础模型。PEFT 文档示例中用到的 opt-350m 和 Llama-3.2-1B 都是合适的选择,一台带 GPU 的笔记本或一台小型云主机即可。
比 GPU 更重要的是标注数据。监督微调要求每条训练样本都带有正确答案,即目标(target)。对工单来说,目标就是类别,例如 billing(付款)、login(登录)、shipping(配送)或 other(其他)。下文示例都使用这组标签。
微调是让预训练模型适配特定任务,而不是从零训练一个模型。所以你不需要数百万条工单,需要的是一致的标签。
第 1 步:把工单整理成“输入–标签”对
最简单的做法是把分类当作短文本生成:模型读一条工单,生成标签名。这与 PEFT 官方示例中的 TaskType.CAUSAL_LM 一致。每行 JSONL 可以是下面这样(提示词格式可自行决定),第一条是重复扣款,第二条是登录收不到验证码:
{"text": "工单:订单 #4821 被扣了两次款。\n标签:", "label": "billing"}
{"text": "工单:登录时没有收到 OTP 验证码。\n标签:", "label": "login"}
**检查:**统计每个标签的工单数。如果某个标签占了大部分数据,现在就记下来,因为它会让评测步骤中的准确率显得比实际更好。
第 2 步:划分数据,锁好测试集
这一步决定结果是否可信。把数据分成三份:训练集用于学习,验证集用于调超参数,测试集在所有决策完成后只用一次。
import random
random.seed(42)
random.shuffle(tickets)
n = len(tickets)
train = tickets[: int(n * 0.70)]
val = tickets[int(n * 0.70): int(n * 0.85)]
test = tickets[int(n * 0.85):]
假设有 2,000 条工单,就得到 1,400 条训练、300 条验证、300 条测试。把测试文件写入磁盘,到第 5 步之前不要再打开。
**检查:**三份数据都包含所有标签。如果多条工单来自同一个客户或同一个邮件线程,考虑把它们放进同一份数据,避免信息在不同集合之间泄漏。
第 3 步:配置 LoRA,包装基础模型
下面的代码完全采用 PEFT quicktour 中的取值,只是为了便于阅读调整了参数顺序。变量 base_model 是已加载好的模型(为简洁起见,省略了加载代码):
from peft import LoraConfig, TaskType, get_peft_model
config = LoraConfig(
r=8,
lora_alpha=32,
lora_dropout=0.1,
target_modules=["q_proj"],
task_type=TaskType.CAUSAL_LM,
inference_mode=False,
)
model = get_peft_model(base_model, config)
最常调整的两个参数是 r 和 target_modules。
提高秩 r,可训练参数更多,学习能力更强,代价是计算量更大、过拟合风险更高。target_modules 决定 LoRA 挂载到哪些层,这里只有 q_proj。如果要像 QLoRA 那样覆盖所有线性层,设置 target_modules="all-linear",可训练参数占比会随之上升。
lora_alpha=32 和 lora_dropout=0.1 来自官方示例。第一次运行时两者都保持不变,这样每次实验只改一个变量(r 或 target_modules),第 4 步的对比表才清晰可读。
**检查:**打印可训练参数数与总参数数。结果应当是一个很小的比例,与 Llama-3.2-1B 示例中的 0.0689% 同一量级。如果接近 100%,说明 LoRA 没有正确应用,你在微调整个模型。
第 4 步:训练时看验证集,而不是训练损失
在 CAUSAL_LM 下,简单理解就是模型学习预测下一段文本。因此每条训练样本是输入字符串拼上标签。预测时只提供“工单:…\n标签:”这部分,再读取模型生成的内容。
下面的示意代码只涉及数据和打分。训练循环使用 Hugging Face 生态中常用的 trainer 即可;predict 是你自己编写、让模型生成标签的函数:
# 简化示意
def to_training_text(t):
return t["text"] + " " + t["label"]
train_texts = [to_training_text(t) for t in train]
def accuracy(rows, predict):
correct = sum(1 for t in rows if predict(t["text"]).strip() == t["label"])
return correct / len(rows)
def majority_baseline(rows):
labels = [t["label"] for t in rows]
top = max(set(labels), key=labels.count)
return labels.count(top) / len(rows)
很多人会跳过最后一个函数。假设 300 条验证工单里有 150 条标为 billing,一个永远回答 billing 的偷懒“模型”就能拿到 50%。如果你的 LoRA 答对 240/300,也就是 80%,真正有意义的是比基线高出的 30 个百分点,而不是 80% 本身。
最常见的陷阱是:训练损失稳步下降到很低,就匆忙宣布成功。模型只靠记住数据也能把训练损失降下来。1,400 条工单、多个 epoch,这完全可能发生。
设想这样的情况:第 3 个 epoch 之后,训练损失继续下降,但 300 条验证工单上的准确率停滞甚至下滑。这就是该停下的信号。此时你可以自由尝试其他方案,比如减少 epoch、换一个 r 或改用 all-linear,只要每次对比都在验证集上进行。
**检查:**维护一张小表,记录配置、验证准确率和基线。客户问“为什么选 r=8?”时,这张表就是答案。
第 5 步:测试集只开一次,然后保存 adapter
配置确定后,在 300 条测试工单上运行 accuracy(test, predict) 并记录结果,这就是你要汇报的数字。如果结果不理想,不要回头调整后再跑测试:这样做会把测试集变成第二个验证集,数字也就失去了意义。
保存 adapter 后,你会发现它小得出奇。PEFT 文档提到,opt-350m 的 adapter 只有约 6MB,而完整权重约 700MB。
第一次尝试通常错在哪里?
常见的条件反射是结果一不好就调高 r。更高的秩确实给了模型更多容量,但只有几千条工单时,它也让死记硬背更容易。调高秩之前,先检查标签。
其次是标签不一致。同一条“已扣款但无法登录”的工单,两位客服可能归到不同类别,而模型学得再好也只能达到标签的水平。
最难发现的是偷看测试集。数字看起来依然正常,只是已经不可信了。
这项技能在客户现场是什么样子?
Hugging Face 对 PEFT 的动机解释得很直白:为每个任务重新微调全部参数,会变得越来越昂贵、越来越不现实。在部署项目中,这一点非常具体:客户先有一个工单队列,后来又加了第二个,接着某个业务部门想要自己的一套标签。
由于基础模型被冻结、adapter 只是增量,你可以保留一个基础模型,按任务换上不同的 LoRA。设想三个部门各需要一个分类器:总成本是几个小 adapter,而不是三份完整的模型副本。这正是客户基础设施团队想听到的答案。
到客户现场后,第一件事不是训练,而是和客服负责人坐下来,就每个标签的定义达成一致,再抽一批工单检查现有标签是否一致。项目的大部分风险都在这一步,而不在 LoraConfig。
如果你瞄准 FDE 岗位,留意岗位描述中的 PEFT、LoRA、微调和评测等关键词。简历上不要只写“微调过 LLM”,要写清可训练参数占比、adapter 大小、对比的基线、数据划分方式,以及测试集只跑过一次。
谁都会运行 get_peft_model。客户付钱买的,是一个他们能相信的评测数字。
这篇文章对你有帮助吗?
感谢你的反馈!