定义

参数高效微调（PEFT）是一系列旨在用比传统全量微调少得多的可训练参数来使大型预训练模型（如大型语言模型或LLM）适应下游任务的技术集合。

PEFT方法不是更新庞大模型中的每一个权重，而是只引入或修改一小部分参数，使训练过程在资源消耗上大大降低。

为什么重要

最先进的基础模型庞大的规模是采用的主要障碍。全量微调需要巨大的计算能力（GPU、内存）和海量数据，这使得许多组织无法使用。PEFT通过大幅减少专业化所需的内存占用和计算开销，实现了模型的民主化定制。

工作原理

PEFT方法基于参数隔离的原则运行。它们冻结预训练模型的大部分权重，并将小的、可训练的模块或适配器注入到现有架构中。训练过程随后仅优化这些小的、添加的组件。

常见技术包括：

• LoRA（低秩适应）： 这可能是最流行的方法。它在原始权重矩阵旁边注入小的、低秩矩阵，使模型能够在不改变核心参数的情况下学习特定于任务的细微差别。
• 提示调优/前缀调优（Prompt Tuning/Prefix Tuning）： 这些方法侧重于优化加在输入嵌入之前的连续、特定于任务的向量（软提示或前缀），而不是修改模型权重本身。

常见用例

当需要快速、有针对性的适应而无需承担巨大的基础设施成本时，PEFT 是理想的选择：

• 领域适应： 使通用 LLM 了解高度专业化的术语（例如，法律、医疗、金融）。
• 任务专业化： 专门针对狭窄范围内的情感分析、摘要或代码生成对模型进行微调。
• 多任务学习： 有效地使一个基础模型能够按顺序执行多个相关任务。

主要优势

采用 PEFT 的优势对于运营 AI 部署来说是巨大的：

• 降低计算成本： 与全量微调相比，GPU 内存需求显著降低，训练时间更快。
• 更小的模型占用空间： 生成的适配器权重与完整模型相比非常小，便于存储和部署。
• 更快的迭代速度： 开发人员可以更快地试验不同的任务适应性。

挑战

尽管非常有效，但 PEFT 并非没有局限性。选择要适应哪些参数或如何构建适配器需要领域知识。此外，虽然效率很高，但性能提升可能不总是与全量、资源密集型微调所能达到的理论峰值完全匹配。

相关概念

这个概念与迁移学习密切相关，迁移学习是利用一个任务的知识来解决另一个任务的总体思想。PEFT 是在大型神经网络的背景下实现有效迁移学习的一种特定、高度优化的方法。