Föderiertes Laufzeitumfeld
Federated Runtime bezeichnet eine Rechenumgebung, in der maschinelle Lernmodelle oder komplexe Anwendungen über ein Netzwerk dezentralisierter Geräte oder Server ausgeführt werden, anstatt auf einem einzigen zentralen Server. Anstatt alle Rohdaten an einem Ort zu sammeln, verwaltet der Runtime den Prozess des Trainings oder Ausführens von Modellen lokal an den Datenquellen.
In modernen, datenintensiven Anwendungen machen Datenhoheit, Datenschutzbestimmungen (wie die DSGVO) und Bandbreitenbeschränkungen eine zentrale Datensammlung unpraktikabel oder illegal. Federated Runtime behebt diese Probleme, indem es die Berechnung zu den Daten bringt und sicherstellt, dass sensible Informationen lokal bleiben, während gleichzeitig zur Verbesserung eines globalen Modells beigetragen wird.
Der Prozess beinhaltet typischerweise einen zentralen Orchestrator, der ein globales Modell oder eine Trainingsaufgabe an verschiedene lokale Knoten (Clients) verteilt. Jeder lokale Knoten trainiert oder führt das Modell mit seinem privaten, lokalen Datensatz aus. Nur die resultierenden Modellaktualisierungen oder Parameter – nicht die Rohdaten – werden an den Orchestrator zurückgesendet. Der Orchestrator aggregiert diese Aktualisierungen dann (z. B. mithilfe von Federated Averaging), um ein verbessertes globales Modell zu erstellen, das für die nächste Trainingsrunde neu verteilt wird.
Federated Runtime ist in Szenarien mit sensiblen Daten von entscheidender Bedeutung: im Gesundheitswesen (Training diagnostischer Modelle auf Krankenhausdaten), beim Lernen auf mobilen Geräten (Verbesserung der Tastaturvorhersage ohne Übertragung von Tastenanschlägen) und bei IoT-Bereitstellungen, bei denen die Inferenz in Echtzeit am Rand erfolgen muss.
Die Implementierung eines Federated Runtime bringt Komplexitäten mit sich, die mit Systemheterogenität (unterschiedliche Hardware/Software auf den Knoten), Kommunikations-Overhead für den Parameteraustausch und der Gewährleistung der Modellkonvergenz trotz nicht-IID (nicht identisch und unabhängig verteilter) lokaler Daten zusammenhängen.
Dieses Konzept überschneidet sich erheblich mit Edge Computing, das sich auf die Verarbeitung von Daten nahe der Quelle konzentriert, und Differential Privacy, einer Technik, die oft auf Federated Learning aufgesetzt wird, um mathematische Garantien gegen Datenlecks hinzuzufügen.
