Defined Term
LoRA(低秩适配)
Low-Rank Adaptation,用低秩矩阵微调大模型的轻量方法
详细定义
LoRA 是大模型微调的工业标准。相比全参数微调,LoRA 只更新少量参数(原模型的 0.1%-1%),效果接近全参数微调,但训练成本降低 10 倍。FDE 现场常用 LoRA 做行业模型定制。
实例
- Qwen-LoRA:为金融场景定制。
- 工业视觉 LoRA:为特定质检场景微调。
- 客服 LoRA:为特定话术风格微调。
来自行业的实例
Qwen-LoRA:为金融场景定制。
工业视觉 LoRA:为特定质检场景微调。
客服 LoRA:为特定话术风格微调。
关联术语
关于 LoRA(低秩适配) 的常见问题
LoRA(低秩适配) 的核心定义是什么?
Low-Rank Adaptation,用低秩矩阵微调大模型的轻量方法
LoRA(低秩适配) 在 FDE 工作流中扮演什么角色?
LoRA 是大模型微调的工业标准。相比全参数微调,LoRA 只更新少量参数(原模型的 0.1%-1%),效果接近全参数微调,但训练成本降低 10 倍。FDE 现场常用 LoRA 做行业模型定制。