定義

パラメーター効率的なファインチューニング（PEFT）とは、従来の完全なファインチューニングよりもはるかに少ない学習可能なパラメーターで、大規模な事前学習済みモデル（大規模言語モデル（LLM）など）をダウンストリームタスクに適応させるために設計された一連の技術を指します。

PEFT手法は、巨大なモデルのすべての重みを更新するのではなく、ごく一部のパラメーターのみを導入または変更することで、トレーニングプロセスを大幅にリソース効率化します。

なぜ重要か

最先端の基盤モデルの巨大なサイズは、導入における大きな障壁となっています。完全なファインチューニングには、膨大な計算能力（GPU、メモリ）と大量のデータが必要であり、多くの組織にとって利用不可能です。PEFTは、専門化に必要なメモリフットプリントと計算オーバーヘッドを劇的に削減することで、モデルのカスタマイズを民主化します。

仕組み

PEFT手法は、パラメーターの分離という原則に基づいて動作します。事前学習済みモデルの大部分の重みを固定し、既存のアーキテクチャに小さく学習可能なモジュールやアダプターを注入します。トレーニングプロセスは、これらの小さく追加されたコンポーネントのみを最適化します。

一般的な技術には以下が含まれます：

• LoRA（Low-Rank Adaptation）： これは最も人気のある手法かもしれません。元の重み行列の隣に小さな低ランク行列を注入することで、コアパラメーターを変更することなく、モデルがタスク固有のニュアンスを学習できるようにします。
• プロンプトチューニング/プレフィックスチューニング（Prompt Tuning/Prefix Tuning）： これらの手法は、モデルの重み自体を変更するのではなく、入力埋め込みに付加される連続的でタスク固有のベクトル（ソフトプロンプトまたはプレフィックス）を最適化することに焦点を当てています。

一般的なユースケース

PEFTは、大規模なインフラストラクチャコストをかけずに迅速かつ的を絞った適応が必要なシナリオに最適です：

• ドメイン適応： 一般的なLLMを高度に専門化された専門用語（例：法律、医療、金融）を理解するように調整する。
• タスク特化： 特定の狭い範囲内での感情分析、要約、またはコード生成のためにモデルをファインチューニングする。
• マルチタスク学習： 1つのベースモデルを効率的に適応させ、複数の関連タスクを順番に実行させる。

主な利点

PEFTを採用することの利点は、運用AIの展開において非常に大きいです：

• 計算コストの削減： 完全なファインチューニングと比較して、GPUメモリ要件が大幅に低く、トレーニング時間が速くなります。
• より小さなモデルフットプリント： 生成されたアダプターの重みは、完全なモデルと比較して非常に小さく、保存とデプロイが容易になります。
• より速いイテレーション： 開発者は、さまざまなタスク適応性をより迅速に試すことができます。

課題

非常に効果的である一方で、PEFTには限界があります。どのパラメーターを適応させるか、アダプターをどのように構成するかは、ドメイン知識を必要とします。さらに、効率的であるとはいえ、パフォーマンスの向上は、リソース集約的な完全なファインチューニングによって達成可能な理論上のピークと完全に一致しない場合があります。

関連概念

この概念は、あるタスクから別のタスクへの知識を再利用するという一般的な考え方である転移学習と密接に関連しています。PEFTは、大規模ニューラルネットワークの文脈で効果的な転移学習を達成するための特定かつ高度に最適化された手法です。