Defined Term
Fine-tuning(微调)
在预训练模型上用领域数据继续训练,使其适配特定任务
详细定义
Fine-tuning 是把通用大模型变成领域专家的标准方法。包括全参数微调(成本高、效果好)与参数高效微调(PEFT,包括 LoRA / QLoRA / Prefix Tuning / Adapter)。FDE 现场多采用 LoRA / QLoRA 等 PEFT 方法,平衡效果与成本。
关联术语
关于 Fine-tuning(微调) 的常见问题
Fine-tuning(微调) 的核心定义是什么?
在预训练模型上用领域数据继续训练,使其适配特定任务
Fine-tuning(微调) 在 FDE 工作流中扮演什么角色?
Fine-tuning 是把通用大模型变成领域专家的标准方法。包括全参数微调(成本高、效果好)与参数高效微调(PEFT,包括 LoRA / QLoRA / Prefix Tuning / Adapter)。FDE 现场多采用 LoRA / QLoRA 等 PEFT 方法,平衡效果与成本。