Techniken für Explainable AI (XAI)

Haben Sie sich schon einmal gefragt, warum eine AI eine bestimmte Entscheidung getroffen hat? Explainable AI (XAI) ist ein Bereich, der sich darauf konzentriert, AI-Modelle transparenter und verständlicher zu machen.

Sie hilft uns zu verstehen, warum eine AI etwas vorhergesagt hat, statt nur zu wissen, was sie vorhergesagt hat. Das ist entscheidend, um Vertrauen aufzubauen und AI-Systeme effektiv zu debuggen.

AI-Entscheidungen zu verstehen, ist nicht nur ein „Nice-to-have“, sondern aus mehreren Gründen für AI-SaaS-Anwendungen unerlässlich:

• Vertrauen: Nutzer übernehmen AI eher, wenn sie deren Entscheidungslogik verstehen.
• Debugging: Es hilft Entwicklern, Fehler oder Verzerrungen in Modellen zu erkennen und zu beheben.
• Compliance: Viele Vorschriften (wie die DSGVO) verlangen Erklärungen für automatisierte Entscheidungen.
• Verbesserung: Erkenntnisse aus XAI können die Weiterentwicklung von Modellen und das Feature Engineering unterstützen.

XAI-Erklärungen können nach ihrem Geltungsbereich kategorisiert werden:

• Lokale Erklärungen: Sie konzentrieren sich darauf, eine einzelne Vorhersage zu erklären. Zum Beispiel, warum ein bestimmter Kreditantrag abgelehnt wurde.
• Globale Erklärungen: Sie zielen darauf ab, das allgemeine Verhalten des Modells zu verstehen. Beispielsweise, welche Merkmale für alle vom Modell erstellten Vorhersagen im Allgemeinen am wichtigsten sind.

Beide Arten sind wertvoll, da sie unterschiedliche Perspektiven darauf bieten, wie Ihr AI-Modell arbeitet.

Eine weitere Möglichkeit, XAI-Techniken zu klassifizieren, besteht darin, den Zeitpunkt der Erstellung der Erklärung zu betrachten:

• Ante-hoc-Erklärungen: Dies sind „integrierte“ Erklärungen inhärent interpretierbarer Modelle wie Entscheidungsbäumen oder linearer Regression. Die Logik des Modells ist von vornherein transparent.
• Post-hoc-Erklärungen: Diese werden nachdem ein komplexes „Black-Box“-Modell (wie ein tiefes neuronales Netzwerk) eine Vorhersage getroffen hat, erstellt. Sie versuchen, Einblicke in seinen Entscheidungsprozess zu geben.

LIME (Local Interpretable Model-agnostic Explanations) ist eine beliebte Post-hoc-Technik.

LIME erstellt ein lokales, interpretierbares Modell (z. B. ein einfaches lineares Modell) rund um eine bestimmte Vorhersage. Dazu verändert die Technik die Eingabedaten geringfügig und beobachtet, wie sich die Vorhersage des Black-Box-Modells ändert. So lässt sich erkennen, welche Merkmale dieses konkrete Ergebnis beeinflusst haben.

SHAP (SHapley Additive exPlanations) ist eine weitere leistungsfähige Post-hoc-Methode, die auf Shapley-Werten aus der Spieltheorie basiert.

SHAP weist jedem Merkmal für eine bestimmte Vorhersage einen „Wichtigkeitswert“ zu. Diese Werte geben an, wie stark jedes Merkmal dazu beiträgt, die Vorhersage vom Basiswert (Durchschnitt) zur tatsächlichen Vorhersage zu verschieben. SHAP bietet sowohl lokale als auch globale Einblicke.

Ein einfacheres XAI-Konzept ist die Feature Importance. Dabei wird quantifiziert, wie stark jedes Merkmal zur allgemeinen Vorhersagegenauigkeit oder zum Ergebnis des Modells beiträgt.

Eine gängige Methode ist die Permutation Feature Importance. Dabei werden die Werte eines einzelnen Merkmals zufällig vertauscht und es wird beobachtet, wie stark die Leistung des Modells abnimmt. Ein großer Leistungsabfall weist darauf hin, dass das vertauschte Merkmal besonders wichtig war.

Kontrafaktische Erklärungen beantworten die Frage: „Was ist die kleinste Änderung an den Eingabemerkmalen, durch die sich die Vorhersage des Modells in das gewünschte Ergebnis ändern würde?“

Wenn beispielsweise ein Kreditantrag abgelehnt wurde, könnte eine kontrafaktische Erklärung lauten: „Wenn Ihre Kreditwürdigkeit um 50 Punkte höher wäre, wäre Ihr Kreditantrag genehmigt worden.“ Dies liefert Nutzern konkrete Ansatzpunkte.

Wie nutzen AI-SaaS-Produkte XAI in der Praxis?

• Kreditbewertung: Erklären, warum ein Kredit genehmigt oder abgelehnt wurde.
• Medizinische Diagnose: Aufzeigen, welche Symptome zu einer bestimmten diagnostischen Vorhersage geführt haben.
• Betrugserkennung: Hervorheben von Transaktionsdetails, die eine Betrugswarnung ausgelöst haben.
• Personalisierte Empfehlungen: Erklären, warum ein bestimmtes Produkt empfohlen wurde.

Diese Erklärungen schaffen Vertrauen bei den Nutzern und sorgen für wichtige Transparenz.

Überprüfen wir Ihr Verständnis der XAI-Techniken.

Sehr gut! Sie haben Explainable AI (XAI) und ihre Bedeutung kennengelernt.

• XAI macht AI-Entscheidungen transparent, schafft Vertrauen und unterstützt das Debugging.
• Wir haben lokale und globale sowie Post-hoc- und Ante-hoc-Erklärungen untersucht.
• Wichtige Techniken wie LIME, SHAP, Feature Importance und kontrafaktische Erklärungen helfen uns, AI-Modelle besser zu verstehen.
• Die Implementierung von XAI in Ihrer SaaS-Anwendung kann die Nutzererfahrung und die Einhaltung gesetzlicher Vorgaben deutlich verbessern.

Als Nächstes beschäftigen wir uns mit Fairness und Verantwortlichkeit in der AI-Entwicklung.