Expliquer les prédictions avec SHAP

Les parties prenantes acceptent rarement un nombre sans explication. L’explicabilité montre quelles entrées ont influencé une sortie donnée. 💡

SHAP attribue à chaque caractéristique une valeur indiquant dans quelle mesure elle a fait augmenter ou diminuer une prédiction par rapport à une référence.

SHAP vient des valeurs de Shapley en théorie des jeux, qui répartissent équitablement un gain entre les joueurs coopérants.

SHAP considère chaque caractéristique comme un joueur et la prédiction comme le gain, puis répartit équitablement entre elles la responsabilité du résultat.

Les explications partent d’une valeur de base, c’est-à-dire la prédiction moyenne. Chaque caractéristique fait ensuite légèrement varier la sortie vers sa valeur finale.

Vous enveloppez votre modèle entraîné dans un explicateur SHAP, puis vous calculez les valeurs pour les lignes que vous souhaitez comprendre.

Une explication locale décompose une seule ligne : par exemple, un revenu élevé peut avoir augmenté l’approbation, tandis qu’un historique court l’aura diminuée.

La moyenne des valeurs SHAP absolues sur de nombreuses lignes donne l’importance globale et classe les caractéristiques qui comptent le plus dans l’ensemble.

Utilisez TreeExplainer pour les modèles à base d’arbres : il est rapide et exact. KernelExplainer est plus lent, mais fonctionne avec presque tous les modèles.

Lorsqu’une tranche est moins performante, SHAP peut révéler que le modèle s’appuie sur une caractéristique fuyante ou artificielle qu’il devrait ignorer.

SHAP demande beaucoup de calcul : expliquez donc un échantillon ou exécutez-le hors ligne plutôt que sur chaque requête en production.

SHAP répartit équitablement une prédiction entre ses caractéristiques et fournit des explications locales et globales qui complètent l’observabilité. ✅