Mémoire fédérée
La Mémoire Fédérée fait référence à une architecture distribuée où les données et les composants de mémoire associés sont conservés localement sur plusieurs nœuds ou dispositifs indépendants. Au lieu de regrouper toutes les données brutes dans un seul référentiel central, le système maintient des magasins de mémoire spécialisés et localisés qui contribuent à une compréhension ou un modèle global collectif.
Dans les applications modernes gourmandes en données, en particulier celles impliquant des informations sensibles (comme les données de santé ou les données personnelles des utilisateurs), la centralisation de toutes les données est souvent impraticable ou illégale. La Mémoire Fédérée répond à cela en permettant au calcul et à l'apprentissage de se dérouler là où résident les données, préservant ainsi la souveraineté des données et améliorant la confidentialité.
Le processus implique généralement un entraînement ou un traitement local sur chaque nœud en utilisant son jeu de données privé. Ce sont uniquement les mises à jour du modèle, les gradients des paramètres ou les aperçus agrégés — et non les données brutes elles-mêmes — qui sont partagés avec un serveur de coordination central. Cette coordination permet au système de construire une « mémoire » ou un modèle partagé robuste qui bénéficie des données collectives sans jamais exposer les dossiers privés sous-jacents.
La Mémoire Fédérée est très pertinente dans plusieurs domaines :
Les avantages principaux sont axés sur la confidentialité, l'efficacité et la résilience. En gardant les données locales, les organisations réduisent les risques de non-conformité et les coûts de bande passante. De plus, le système reste fonctionnel même si le serveur de coordination central subit une panne, car les nœuds locaux conservent leur mémoire opérationnelle.
La mise en œuvre de la Mémoire Fédérée est complexe. Les défis comprennent la gestion de l'hétérogénéité des modèles (différents dispositifs ayant des distributions de données différentes), l'assurance de la convergence du modèle global à partir de mises à jour locales disparates, et l'établissement de protocoles de communication robustes entre les nœuds.
Ce concept est étroitement lié à l'Apprentissage Fédéré (FL), qui est le cadre algorithmique souvent utilisé pour implémenter la Mémoire Fédérée. Il croise également des concepts tels que la Confidentialité Différentielle, qui peut être appliquée aux mises à jour de modèle partagées pour ajouter des garanties mathématiques contre les fuites de données.