Spiegare le previsioni con SHAP

Gli stakeholder raramente accettano un numero privo di motivazioni. La spiegabilità mostra quali input hanno determinato un singolo output. 💡

SHAP assegna a ogni feature un valore che indica quanto abbia spinto una predizione verso l'alto o verso il basso rispetto a un valore di base.

SHAP deriva dai valori di Shapley della teoria dei giochi, che suddividono equamente una ricompensa tra i giocatori che collaborano.

SHAP tratta ogni feature come un giocatore e la predizione come la ricompensa, quindi distribuisce equamente tra loro il merito del risultato.

Le spiegazioni partono da un valore di base, cioè dalla predizione media. Ogni feature sposta quindi l'output verso il valore finale.

È possibile racchiudere il modello addestrato in un explainer SHAP e calcolare quindi i valori per le righe che si desidera comprendere.

Una spiegazione locale scompone una singola riga: ad esempio, un reddito elevato può aver aumentato la probabilità di approvazione, mentre una storia breve può averla ridotta.

Calcolare la media dei valori SHAP assoluti su molte righe fornisce l'importanza globale e ordina le feature in base alla loro rilevanza complessiva.

Usare TreeExplainer per i modelli ad albero: è rapido e preciso. KernelExplainer è più lento, ma funziona con quasi ogni modello.

Quando una slice ha prestazioni inferiori, SHAP può rivelare che il modello si basa su una feature con leakage o spuriosa, che dovrebbe ignorare.

SHAP richiede molte risorse di calcolo, quindi occorre spiegare un campione o eseguire l'analisi offline invece di farlo per ogni richiesta in produzione.

SHAP distribuisce equamente una predizione tra le sue feature, fornendo spiegazioni locali e globali che completano il quadro dell'osservabilità. ✅