微调 (深度学习) 微调英語finetuning是深度学习中迁移学习的一种方法其中预训练模型的权重会在新数据上进行训练微调可以在整个神经网络上执行也可以仅在其部分层上执行此时未进行微调的层会被冻结在反向传播步骤中不更新模型还可以通过适配器进行增强适配器的参数远少于原始模型通过调整适配器的权重并保持模型的其余权重不变的方式以参数有效的方式进行微调 对于一些体系结构比如卷积神经网络通常会将较早的层靠近输入层的层冻结因为它们捕捉到较低层次的特征而较后的层通常能够识别更高层次的特征这些特征可能更相关于模型训练的任务 对于在大型和通用语料库上进行预训练的模型通常通过重用模型的参数作为起点并添加一个从头开始训练的任务特定层进行微调 对整个模型进行微调也很常见通常会产生更好的结果但计算成本更高 微调通常通过监督学习完成但也有使用弱监督英语Weak supervision进行模型微调的技术 微调可以与基于人类反馈的强化学习目标相结合以生成像ChatGPTGPT的微调版本和Sparrow英语Sparrow bot等语言模型