# 只训练 0.07% 参数，用 LoRA 做工单分类器

> LoRA 不需要 GPU 集群，决定效果的是一致的标签和只跑一次的测试集。

原文: https://fdetimes.net/zh/guides/lora-fine-tune-support-ticket-classifier/

在 PEFT 库的 healthcheck 示例中，Llama-3.2-1B 模型共有 1,236,666,368 个参数，实际训练的只有 851,968 个，占 0.0689%，其余全部冻结。

具体数字取决于模型和配置，但它说明了一点：在客户现场工作的工程师，不需要 GPU 集群也能针对一个窄问题微调模型。

工单分类正是这类窄问题：输入是一段文本，输出是固定列表中的一个标签。如果你正打算转向前线部署工程师（FDE）岗位，把这件事从头到尾做完，并能讲清每个决策，就是一个可以在面试中完整展示的项目。

本文介绍如何在小型语言模型上用 LoRA 构建工单分类器。最终你会得到一个紧凑的 adapter，以及一个可信的评测数字。

## 动手之前需要准备什么？

你需要 Python、Hugging Face 的 `peft` 库及其配套的 `transformers` 生态，再加一个小型基础模型。PEFT 文档示例中用到的 opt-350m 和 Llama-3.2-1B 都是合适的选择，一台带 GPU 的笔记本或一台小型云主机即可。

比 GPU 更重要的是标注数据。监督微调要求每条训练样本都带有正确答案，即目标（target）。对工单来说，目标就是类别，例如 billing（付款）、login（登录）、shipping（配送）或 other（其他）。下文示例都使用这组标签。

微调是让预训练模型适配特定任务，而不是从零训练一个模型。所以你不需要数百万条工单，需要的是一致的标签。

## 第 1 步：把工单整理成“输入–标签”对

最简单的做法是把分类当作短文本生成：模型读一条工单，生成标签名。这与 PEFT 官方示例中的 `TaskType.CAUSAL_LM` 一致。每行 JSONL 可以是下面这样（提示词格式可自行决定），第一条是重复扣款，第二条是登录收不到验证码：

```json

    {"text": "工单：订单 #4821 被扣了两次款。\n标签：", "label": "billing"}

    {"text": "工单：登录时没有收到 OTP 验证码。\n标签：", "label": "login"}

```

**检查：**统计每个标签的工单数。如果某个标签占了大部分数据，现在就记下来，因为它会让评测步骤中的准确率显得比实际更好。

## 第 2 步：划分数据，锁好测试集

这一步决定结果是否可信。把数据分成三份：训练集用于学习，验证集用于调超参数，测试集在所有决策完成后只用一次。

```python
import random
random.seed(42)
random.shuffle(tickets)
n = len(tickets)
train = tickets[: int(n * 0.70)]
val   = tickets[int(n * 0.70): int(n * 0.85)]
test  = tickets[int(n * 0.85):]
```

假设有 2,000 条工单，就得到 1,400 条训练、300 条验证、300 条测试。把测试文件写入磁盘，到第 5 步之前不要再打开。

**检查：**三份数据都包含所有标签。如果多条工单来自同一个客户或同一个邮件线程，考虑把它们放进同一份数据，避免信息在不同集合之间泄漏。

## 第 3 步：配置 LoRA，包装基础模型

下面的代码完全采用 PEFT quicktour 中的取值，只是为了便于阅读调整了参数顺序。变量 `base_model` 是已加载好的模型（为简洁起见，省略了加载代码）：

```python
from peft import LoraConfig, TaskType, get_peft_model

config = LoraConfig(
    r=8,
    lora_alpha=32,
    lora_dropout=0.1,
    target_modules=["q_proj"],
    task_type=TaskType.CAUSAL_LM,
    inference_mode=False,
)
model = get_peft_model(base_model, config)
```

最常调整的两个参数是 `r` 和 `target_modules`。

提高秩 `r`，可训练参数更多，学习能力更强，代价是计算量更大、过拟合风险更高。`target_modules` 决定 LoRA 挂载到哪些层，这里只有 `q_proj`。如果要像 QLoRA 那样覆盖所有线性层，设置 `target_modules="all-linear"`，可训练参数占比会随之上升。

`lora_alpha=32` 和 `lora_dropout=0.1` 来自官方示例。第一次运行时两者都保持不变，这样每次实验只改一个变量（`r` 或 `target_modules`），第 4 步的对比表才清晰可读。

**检查：**打印可训练参数数与总参数数。结果应当是一个很小的比例，与 Llama-3.2-1B 示例中的 0.0689% 同一量级。如果接近 100%，说明 LoRA 没有正确应用，你在微调整个模型。

**要点:** 原始权重被冻结，所以你产出的只是一个增量，它可以拆下、换上，也可以专门分配给某一个任务。

## 第 4 步：训练时看验证集，而不是训练损失

在 `CAUSAL_LM` 下，简单理解就是模型学习预测下一段文本。因此每条训练样本是输入字符串拼上标签。预测时只提供“工单：...\n标签：”这部分，再读取模型生成的内容。

下面的示意代码只涉及数据和打分。训练循环使用 Hugging Face 生态中常用的 trainer 即可；`predict` 是你自己编写、让模型生成标签的函数：

```python
# 简化示意
def to_training_text(t):
    return t["text"] + " " + t["label"]

train_texts = [to_training_text(t) for t in train]

def accuracy(rows, predict):
    correct = sum(1 for t in rows if predict(t["text"]).strip() == t["label"])
    return correct / len(rows)

def majority_baseline(rows):
    labels = [t["label"] for t in rows]
    top = max(set(labels), key=labels.count)
    return labels.count(top) / len(rows)
```

很多人会跳过最后一个函数。假设 300 条验证工单里有 150 条标为 billing，一个永远回答 billing 的偷懒“模型”就能拿到 50%。如果你的 LoRA 答对 240/300，也就是 80%，真正有意义的是比基线高出的 30 个百分点，而不是 80% 本身。

最常见的陷阱是：训练损失稳步下降到很低，就匆忙宣布成功。模型只靠记住数据也能把训练损失降下来。1,400 条工单、多个 epoch，这完全可能发生。

设想这样的情况：第 3 个 epoch 之后，训练损失继续下降，但 300 条验证工单上的准确率停滞甚至下滑。这就是该停下的信号。此时你可以自由尝试其他方案，比如减少 epoch、换一个 `r` 或改用 `all-linear`，只要每次对比都在验证集上进行。

**检查：**维护一张小表，记录配置、验证准确率和基线。客户问“为什么选 r=8？”时，这张表就是答案。

## 第 5 步：测试集只开一次，然后保存 adapter

配置确定后，在 300 条测试工单上运行 `accuracy(test, predict)` 并记录结果，这就是你要汇报的数字。如果结果不理想，不要回头调整后再跑测试：这样做会把测试集变成第二个验证集，数字也就失去了意义。

保存 adapter 后，你会发现它小得出奇。PEFT 文档提到，opt-350m 的 adapter 只有约 6MB，而完整权重约 700MB。

## 第一次尝试通常错在哪里？

常见的条件反射是结果一不好就调高 `r`。更高的秩确实给了模型更多容量，但只有几千条工单时，它也让死记硬背更容易。调高秩之前，先检查标签。

其次是标签不一致。同一条“已扣款但无法登录”的工单，两位客服可能归到不同类别，而模型学得再好也只能达到标签的水平。

最难发现的是偷看测试集。数字看起来依然正常，只是已经不可信了。

## 这项技能在客户现场是什么样子？

Hugging Face 对 PEFT 的动机解释得很直白：为每个任务重新微调全部参数，会变得越来越昂贵、越来越不现实。在部署项目中，这一点非常具体：客户先有一个工单队列，后来又加了第二个，接着某个业务部门想要自己的一套标签。

由于基础模型被冻结、adapter 只是增量，你可以保留一个基础模型，按任务换上不同的 LoRA。设想三个部门各需要一个分类器：总成本是几个小 adapter，而不是三份完整的模型副本。这正是客户基础设施团队想听到的答案。

到客户现场后，第一件事不是训练，而是和客服负责人坐下来，就每个标签的定义达成一致，再抽一批工单检查现有标签是否一致。项目的大部分风险都在这一步，而不在 `LoraConfig`。

如果你瞄准 FDE 岗位，留意岗位描述中的 PEFT、LoRA、微调和评测等关键词。简历上不要只写“微调过 LLM”，要写清可训练参数占比、adapter 大小、对比的基线、数据划分方式，以及测试集只跑过一次。

谁都会运行 `get_peft_model`。客户付钱买的，是一个他们能相信的评测数字。

**本周动手试试:**

- 收集 1,000–2,000 条公开或自制的工单，按类别标注，按 70/15/15 划分，并锁好测试文件
- 运行 PEFT quicktour 中的 LoRA 配置（q_proj，r=8），再试 target_modules="all-linear"，在验证集上对比
- 把代码仓库推到 GitHub，README 中写明可训练参数数、adapter 大小、最高频标签基线，以及只跑一次的测试结果

## 信源

- [What is fine-tuning? | IBM](https://www.ibm.com/think/topics/fine-tuning)

- [Quicktour (PEFT documentation)](https://huggingface.co/docs/peft/main/en/quicktour)

- [LoRA (PEFT documentation)](https://huggingface.co/docs/peft/main/en/package_reference/lora)

- [What Is Machine Learning Model Training?](https://domino.ai/blog/what-is-machine-learning-model-training)

- [Training ML Models - Amazon Machine Learning](https://docs.aws.amazon.com/machine-learning/latest/dg/training-ml-models.html)
