Technieken voor uitlegbare AI (XAI)

XAI-uitleg kan worden ingedeeld op basis van het bereik:

• Lokale uitleg: Richt zich op het uitleggen van één enkele voorspelling. Bijvoorbeeld waarom een specifieke leningaanvraag is afgewezen.
• Globale uitleg: Is gericht op het begrijpen van het algemene gedrag van het model. Bijvoorbeeld welke features over het algemeen het belangrijkst zijn voor alle voorspellingen van het model.

Beide typen zijn waardevol en bieden verschillende perspectieven op de werking van je AI-model.

Een andere manier om XAI-technieken in te delen is op basis van het moment waarop de uitleg wordt gegenereerd:

• Uitleg vooraf: Dit zijn ingebouwde verklaringen van modellen die van nature interpreteerbaar zijn, zoals beslisbomen of lineaire regressie. De logica van het model is door het ontwerp transparant.
• Uitleg achteraf: Deze wordt gegenereerd nadat een complex black-boxmodel, zoals een diep neuraal netwerk, een voorspelling heeft gedaan. De uitleg probeert inzicht te geven in het besluitvormingsproces.

LIME (Local Interpretable Model-agnostic Explanations) is een populaire techniek voor uitleg achteraf.

LIME maakt rond een specifieke voorspelling een lokaal, interpreteerbaar model, bijvoorbeeld een eenvoudig lineair model. Het verstoort de invoergegevens een beetje en observeert hoe de voorspelling van het black-boxmodel verandert. Zo kun je vaststellen welke features die specifieke uitkomst hebben beïnvloed.

SHAP (SHapley Additive exPlanations) is een andere krachtige methode voor uitleg achteraf, gebaseerd op Shapley-waarden uit de speltheorie.

SHAP kent aan elke feature voor een specifieke voorspelling een waarde voor het belang toe. Deze waarden geven aan hoeveel elke feature bijdraagt aan de verschuiving van de basiswaarde (het gemiddelde) naar de daadwerkelijke voorspelling. SHAP biedt zowel lokale als globale inzichten.

Een eenvoudiger XAI-concept is featurebelang. Hierbij wordt gekwantificeerd hoeveel elke feature bijdraagt aan de algehele voorspellingsnauwkeurigheid of uitkomst van het model.

Een veelgebruikte methode is permutatie van featurebelang. Hierbij worden de waarden van één feature willekeurig door elkaar gehusseld en observeer je hoeveel de prestaties van het model afnemen. Een grote afname geeft aan dat de gehusselde feature zeer belangrijk was.

Tegenfeitelijke uitleg beantwoordt de vraag: 'Wat is de kleinste verandering in de invoerfeatures die de voorspelling van het model zou veranderen in een gewenste uitkomst?'

Als een lening bijvoorbeeld is afgewezen, kan een tegenfeitelijke uitleg de volgende suggestie geven: 'Als je kredietscore 50 punten hoger was geweest, zou je lening zijn goedgekeurd.' Dit biedt gebruikers concrete inzichten waarmee ze aan de slag kunnen.

Hoe gebruiken AI SaaS-producten XAI in de praktijk?

• Kredietbeoordeling: Uitleggen waarom een lening is goedgekeurd of afgewezen.
• Medische diagnose: Tonen welke symptomen tot een bepaalde diagnostische voorspelling hebben geleid.
• Fraudedetectie: Transactiegegevens benadrukken die een fraudemelding hebben geactiveerd.
• Gepersonaliseerde aanbevelingen: Uitleggen waarom een specifiek product is aanbevolen.

Deze uitleg wekt vertrouwen bij gebruikers en biedt belangrijke transparantie.

Goed gedaan! Je hebt geleerd wat uitlegbare AI (XAI) is en waarom dit belangrijk is.

• XAI maakt AI-beslissingen transparant, bouwt vertrouwen op en helpt bij het debuggen.
• We hebben lokale en globale uitleg en uitleg achteraf en vooraf onderzocht.
• Belangrijke technieken zoals LIME, SHAP, featurebelang en tegenfeitelijke uitleg helpen ons AI-modellen beter te begrijpen.
• Door XAI in je SaaS te implementeren, kun je de gebruikerservaring en naleving van regelgeving aanzienlijk verbeteren.

Vervolgens gaan we dieper in op rechtvaardigheid en verantwoordelijkheid bij AI-ontwikkeling.