FDE Hub
术语词典/LoRA(低秩适配)
Defined Term

LoRA(低秩适配)

Low-Rank Adaptation,用低秩矩阵微调大模型的轻量方法

详细定义

LoRA 是大模型微调的工业标准。相比全参数微调,LoRA 只更新少量参数(原模型的 0.1%-1%),效果接近全参数微调,但训练成本降低 10 倍。FDE 现场常用 LoRA 做行业模型定制。

实例

  • Qwen-LoRA:为金融场景定制。
  • 工业视觉 LoRA:为特定质检场景微调。
  • 客服 LoRA:为特定话术风格微调。
来自行业的实例
Qwen-LoRA:为金融场景定制。
工业视觉 LoRA:为特定质检场景微调。
客服 LoRA:为特定话术风格微调。

关联术语

关于 LoRA(低秩适配) 的常见问题

LoRA(低秩适配) 的核心定义是什么?

Low-Rank Adaptation,用低秩矩阵微调大模型的轻量方法

LoRA(低秩适配) 在 FDE 工作流中扮演什么角色?

LoRA 是大模型微调的工业标准。相比全参数微调,LoRA 只更新少量参数(原模型的 0.1%-1%),效果接近全参数微调,但训练成本降低 10 倍。FDE 现场常用 LoRA 做行业模型定制。