連合学習

分散型学習（Federated Learning）は、組織が複数の分散されたデバイスやサーバー上で高性能な機械学習モデルを構築することを可能にします。この際、データは各デバイスまたはサーバーにローカルに保持されます。この手法は、生データが元の場所から移動することなく、プライバシー保護と規制遵守を確保することで、プライバシーに関する懸念や規制要件に対応します。機密情報を中央リポジトリに集約するのではなく、システムは反復的な更新を通じてモデルのパラメータを共同で調整します。各参加者は、自身のデータセットを使用してローカルで学習を行い、グローバルモデルに対する数理的な変更のみを共有します。この方法は、データの主権を維持しながら、多様なソースからの集団知能を活用することを可能にします。特に、規制された医療データや金融データを扱う業界において、直接的なデータ共有が禁止されている場合に、この手法は非常に重要です。

主要なメカニズムは、参加ノード間で共有されるグローバルモデルを初期化することです。ローカルなデータセットを用いてローカル学習を行い、ローカルのパターンを反映した勾配の更新を生成しますが、生データ自体は公開されません。

セキュリティは、差分プライバシー技術と、集約層に組み込まれた安全な多者計算プロトコルによって強化されます。

収束速度はデータの一様性に依存し、Federated Averagingのようなアルゴリズムは、学習率を調整することで、グローバルな安定性とローカルな適応性のバランスを取る。