Erklärbarer Dienst
Ein erklärbarer Dienst (Explainable Service) bezeichnet einen KI- oder maschinellen Lernservice, dessen Ergebnisse, Entscheidungen und Vorhersagen für menschliche Benutzer klar verständlich und artikulierbar sind. Im Gegensatz zu „Black-Box“-Modellen, die Antworten ohne Offenlegung der Begründung liefern, liefert ein erklärbarer Dienst das „Warum“ hinter seinen Schlussfolgerungen.
In regulierten Branchen (wie Finanzen und Gesundheitswesen) und beim Aufbau von Nutzervertrauen ist es nicht optional zu wissen, warum eine KI eine bestimmte Entscheidung getroffen hat – es ist oft eine rechtliche oder ethische Anforderung. Erklärbarkeit ermöglicht es Entwicklern, Prüfern und Endbenutzern, die Logik des Systems zu validieren, Verzerrungen zu erkennen und Fehler effektiv zu beheben.
Erklärbarkeit wird durch verschiedene Techniken erreicht, die nach dem Training oder während des Modelldesigns angewendet werden. Diese Methoden reichen von lokalen Erklärungen (Erklärung einer einzelnen Vorhersage) bis hin zu globalen Erklärungen (Verständnis des allgemeinen Verhaltens des Modells). Zu den Techniken gehören LIME (Local Interpretable Model-agnostic Explanations) und SHAP (SHapley Additive exPlanations), die den Beitrag jedes Eingabefeatures zur endgültigen Ausgabe quantifizieren.
Die Implementierung echter Erklärbarkeit ist komplex. Hochpräzise, komplexe Modelle (wie tiefe neuronale Netze) sind oft von Natur aus weniger transparent als einfachere, inhärent interpretierbare Modelle (wie lineare Regression). Die Abwägung zwischen Vorhersageleistung und Interpretierbarkeit bleibt ein zentraler technischer Kompromiss.
Dieses Konzept steht in enger Beziehung zur Modell-Governance (Model Governance), zur KI-Ethik (AI Ethics) und zum Modell-Monitoring (Model Monitoring). Während das Modell-Monitoring die Leistung über die Zeit verfolgt, konzentriert sich der Erklärbare Dienst spezifisch auf die Begründung hinter der aktuellen Leistung.
