Erklärbare Laufzeit
Eine Explainable Runtime (XRT) bezeichnet die Betriebsumgebung oder die Ausführungsschicht eines Künstliche-Intelligenz-(KI)-Modells, die detaillierte, nachvollziehbare Einblicke darüber liefert, wie und warum ein Modell bei einer Live-Inferenz zu einem bestimmten Ergebnis gekommen ist. Im Gegensatz zu traditionellen Black-Box-Modellen liefert eine XRT nicht nur eine Vorhersage; sie liefert die Vorhersage zusammen mit dem notwendigen Kontext, den Feature-Wichtigkeitswerten, den Entscheidungspfaden und den Konfidenzmetriken.
In regulierten Branchen (Finanzen, Gesundheitswesen) und bei kritischen Anwendungen reicht es nicht aus, einfach nur eine genaue Vorhersage zu haben. Interessengruppen, Aufsichtsbehörden und Endbenutzer benötigen eine Begründung. XRTs adressieren das „Vertrauensdefizit“ in der KI, indem sie die Interpretierbarkeit von einem nachträglichen Analysewerkzeug zu einem integralen Bestandteil des laufenden Betriebsworkflows machen. Dies ist entscheidend für Debugging, Compliance und den Aufbau von Benutzervertrauen.
Die Funktionalität einer XRT wird erreicht, indem spezialisierte Überwachungs- und Protokollierungsagenten direkt in die Infrastruktur des Modellservers integriert werden. Wenn eine Eingabeanfrage verarbeitet wird, erfasst die Laufzeitumgebung nicht nur die Eingabe und Ausgabe, sondern auch Zwischenaktivierungen, Feature-Attributionskarten (z. B. SHAP-Werte) und den spezifischen Ausführungspfad, der durch die Schichten des Modells genommen wurde. Diese Daten werden dann zusammen mit dem Ergebnis verpackt, sodass nachgeschaltete Systeme die Begründung abfragen können.
Die Implementierung von XRTs führt zu rechnerischem Overhead. Die Erstellung detaillierter Erklärungen kann die Inferenzlatenz erheblich erhöhen. Darüber hinaus bleibt die Gewährleistung, dass die Erklärung selbst dem tatsächlichen Entscheidungsprozess des Modells treu ist (Fidelity), eine komplexe Forschungsherausforderung.
Dieses Konzept steht in enger Beziehung zur Modellinterpretierbarkeit (der Untersuchung des Modellverhaltens), zur Modellbeobachtbarkeit (Überwachung der Systemgesundheit) und zur Modell-Governance (den Richtlinien rund um den Einsatz und die Nutzung von Modellen).
