Wyjaśnianie predykcji za pomocą SHAP

Interesariusze rzadko akceptują liczbę bez uzasadnienia. Wyjaśnialność pokazuje, które dane wejściowe wpłynęły na pojedyncze wyjście. 💡

SHAP przypisuje każdej cesze wartość pokazującą, jak bardzo wpłynęła ona na zwiększenie lub zmniejszenie pojedynczej predykcji względem wartości bazowej.

SHAP wywodzi się z wartości Shapleya w teorii gier, które sprawiedliwie dzielą wypłatę między współpracujących graczy.

SHAP traktuje każdą cechę jak gracza, a predykcję jak wypłatę, po czym sprawiedliwie rozdziela między cechy zasługę za wynik.

Wyjaśnienia zaczynają się od wartości bazowej, czyli średniej predykcji. Następnie każda cecha przesuwa wynik w kierunku jego wartości końcowej.

Wytrenowany model należy opakować w obiekt explainer biblioteki SHAP, a następnie obliczyć wartości dla wierszy, które chcą Państwo zrozumieć.

Wyjaśnienie lokalne rozkłada na czynniki pojedynczy wiersz: na przykład wysoki dochód mógł zwiększyć szansę akceptacji, a krótka historia ją zmniejszyć.

Uśrednienie bezwzględnych wartości SHAP dla wielu wierszy daje globalną ważność cech i pozwala uszeregować te, które mają największe znaczenie ogółem.

Dla modeli drzewiastych należy używać TreeExplainer, ponieważ działa szybko i dokładnie. KernelExplainer jest wolniejszy, ale działa z niemal każdym modelem.

Gdy wycinek osiąga słabsze wyniki, SHAP może ujawnić, że model opiera się na przeciekającej lub pozornej cesze, której nie powinien używać.

SHAP wymaga dużej ilości mocy obliczeniowej, dlatego należy wyjaśniać próbkę albo uruchamiać analizę offline, zamiast wykonywać ją dla każdego żądania na żywo.

SHAP sprawiedliwie rozdziela predykcję między jej cechy, dostarczając lokalnych i globalnych wyjaśnień, które uzupełniają obraz obserwowalności. ✅