LoRA 微调:先回答这五个问题,再开始训练
LoRA 降低了微调的成本,却没有替你解决“值不值得微调”的判断。训练之前应明确目标能力、数据边界、注入模块、资源预算和评测方法。
1. 目标能力能否通过提示词或 RAG 解决?
需要稳定改变输出风格、结构化行为或领域任务能力时,才更可能需要微调。仅缺少可检索事实时,优先考虑 RAG。
2. 数据是否代表线上任务?
训练样本要覆盖真实输入分布、负例和边界条件。格式统一但任务单一的数据,往往只能让模型学会模板。
3. 如何选择目标模块?
从注意力投影层开始是常见基线,但模块范围应由任务、参数预算和评测结果决定,而不是照搬配置。
4. 如何定义成功?
在训练前固定评测集与指标。除了任务正确率,也要检查通用能力退化、格式稳定性、拒答行为和成本。