Erklärbares Scoring
Erklärbare Scoring bezieht sich auf den Prozess, klare, für Menschen verständliche Begründungen für die Ausgabe oder den „Score“ zu liefern, der von einem prädiktiven Modell generiert wird. Anstatt lediglich eine Wahrscheinlichkeit zurückzugeben (z. B. 85 % Ausfallwahrscheinlichkeit), beschreibt ein erklärbares System, warum dieser Score vergeben wurde, und hebt dabei die einflussreichsten Eingabemerkmale hervor.
In regulierten Branchen wie Finanzen, Gesundheitswesen und Versicherungen sind „Black-Box“-Modelle inakzeptabel. Erklärbares Scoring gewährleistet Rechenschaftspflicht und schafft Vertrauen bei den Nutzern. Unternehmen müssen nicht nur wissen, was das Modell vorhersagt, sondern auch warum es dies vorhersagt, was für Audits, Debugging und die Akzeptanz durch Stakeholder entscheidend ist.
Erklärungen werden typischerweise mithilfe von Post-hoc-Techniken generiert, die auf ein trainiertes Modell angewendet werden. Diese Techniken untersuchen das Verhalten des Modells lokal (für eine einzelne Vorhersage) oder global (für das Modell als Ganzes). Zu den gängigen Methoden gehören SHAP (SHapley Additive exPlanations) und LIME (Local Interpretable Model-agnostic Explanations), die den Beitrag jeder Eingabevariable zum Endergebnis quantifizieren.
Die Erzeugung wahrheitsgetreuer Erklärungen ist komplex. Es besteht oft ein Zielkonflikt zwischen der Treue der Erklärung (wie genau sie die Black Box widerspiegelt) und ihrer Einfachheit (wie leicht ein Fachanwender sie verstehen kann). Darüber hinaus sind einige hochkomplexe Modelle von Natur aus schwer perfekt zu erklären.
Modellinterpretierbarkeit, Feature Importance, Kontrafaktische Erklärungen, Algorithmische Fairness
