Föderiertes Modell
Ein föderiertes Modell, das oft mittels Federated Learning (FL) implementiert wird, ist ein Paradigma des maschinellen Lernens, das ein gemeinsames globales Modell über ein Netzwerk dezentralisierter Edge-Geräte oder Server trainiert, die lokale Datenbeispiele enthalten, ohne die Rohdaten selbst auszutauschen. Anstatt sensible Daten an einen zentralen Ort zu sammeln, reist das Modell zu den Daten.
In einer Ära strenger Datenschutzbestimmungen wie DSGVO und CCPA ist die Zentralisierung sensibler Benutzerdaten zunehmend riskant und oft nicht konform. Föderierte Modelle lösen dies, indem sie Organisationen ermöglichen, riesige, verteilte Datensätze – wie jene, die auf Mobiltelefonen, in Krankenhäusern oder lokalen Zweigstellen-Servern gespeichert sind – zu nutzen, um robuste KI-Modelle zu erstellen, während die Daten lokal und privat bleiben.
Der Prozess umfasst mehrere iterative Schritte. Zuerst sendet ein zentraler Server die aktuelle Version des globalen Modells an ausgewählte teilnehmende Clients. Jeder Client trainiert dieses Modell dann lokal mit seinem proprietären Datensatz. Nach dem lokalen Training senden die Clients nur die Modellaktualisierungen (z. B. Gradientenaktualisierungen oder Gewichtsänderungen) an den zentralen Server zurück, nicht die Rohdaten. Der Server aggregiert diese Aktualisierungen dann – oft unter Verwendung von Techniken wie Federated Averaging (FedAvg) –, um ein verbessertes globales Modell zu erstellen, das dann für die nächste Trainingsrunde neu verteilt wird.
Föderierte Modelle sind hoch anwendbar in Szenarien, in denen Daten ihren Ursprung nicht verlassen dürfen. Beispiele hierfür sind: das Training von Textvorhersagemodellen auf Benutzer-Smartphones, die Entwicklung diagnostischer KI in Krankenhausnetzwerken ohne Weitergabe von Patientenakten oder die Verbesserung der Betrugserkennung über mehrere Finanzinstitute hinweg.
Die Hauptvorteile sind verbesserte Datenschutz- und Compliance-Sicherheit, reduzierte Datenübertragungskosten und die Fähigkeit, auf hochgradig vielfältige, reale Daten zu trainieren, die ansonsten aufgrund von Governance-Beschränkungen isoliert wären. Dies führt zu robusteren und generalisierbareren Modellen.
Die Implementierung von FL bringt technische Hürden mit sich. Dazu gehören die Verwaltung der Systemheterogenität (Geräte mit unterschiedlicher Rechenleistung), der Umgang mit nicht-IID-Daten (nicht unabhängig und identisch verteilt) über die Clients hinweg und die Gewährleistung der Sicherheit der übertragenen Modellaktualisierungen gegen Inferenzangriffe.
Dieses Konzept steht in enger Beziehung zur Differential Privacy (die Rauschen zu den Aktualisierungen hinzufügt, um eine Rückentwicklung einzelner Datenpunkte zu verhindern) und zur Secure Aggregation (die sicherstellt, dass der zentrale Server die einzelnen Client-Aktualisierungen nicht einsehen kann).