Vorhersagen mit SHAP erklären

Stakeholder akzeptieren eine Zahl ohne Begründung nur selten. Erklärbarkeit zeigt, welche Eingaben eine einzelne Ausgabe beeinflusst haben. 💡

SHAP weist jedem Feature einen Wert zu, der zeigt, wie stark es eine einzelne Vorhersage gegenüber einem Basiswert nach oben oder unten verschoben hat.

SHAP beruht auf Shapley-Werten aus der Spieltheorie, die eine Auszahlung fair auf kooperierende Mitspieler verteilen.

SHAP behandelt jedes Feature als Mitspieler und die Vorhersage als Auszahlung. Anschließend verteilt es den Anteil am Ergebnis fair auf die Features.

Erklärungen beginnen mit einem Basiswert, der durchschnittlichen Vorhersage. Jedes Feature verschiebt die Ausgabe anschließend in Richtung ihres endgültigen Werts.

Sie verpacken Ihr trainiertes Modell in einen SHAP-Explainer und berechnen anschließend Werte für die Zeilen, die Sie verstehen möchten.

Eine lokale Erklärung schlüsselt eine einzelne Zeile auf: Vielleicht hat ein hohes Einkommen die Bewilligungswahrscheinlichkeit erhöht, während eine kurze Historie sie gesenkt hat.

Der Durchschnitt der absoluten SHAP-Werte über viele Zeilen ergibt die globale Wichtigkeit und ordnet die Features danach, welche insgesamt am wichtigsten sind.

Verwenden Sie TreeExplainer für Baummodelle; es ist schnell und exakt. KernelExplainer ist langsamer, funktioniert aber mit fast jedem Modell.

Wenn ein Slice schlechter abschneidet, kann SHAP zeigen, dass sich das Modell auf ein durchsickerndes oder zufälliges Feature stützt, das es ignorieren sollte.

SHAP ist rechenintensiv. Erklären Sie daher eine Stichprobe oder führen Sie die Berechnung offline aus, statt jede Live-Anfrage zu verarbeiten.

SHAP verteilt eine Vorhersage fair auf ihre Features und liefert lokale und globale Erklärungen, die das Bild der Observability vervollständigen. ✅