อธิบายผลพยากรณ์ด้วย SHAP

ผู้มีส่วนได้ส่วนเสียมักไม่ยอมรับตัวเลขที่ไม่มีเหตุผล ความสามารถในการอธิบายจะแสดงว่าอินพุตใดผลักดันเอาต์พุตหนึ่ง ๆ 💡

SHAPกำหนดค่าให้คุณลักษณะแต่ละรายการ เพื่อแสดงว่าคุณลักษณะนั้นผลักผลการทำนายหนึ่ง ๆ ให้สูงขึ้นหรือต่ำลงจากค่าฐานมากเพียงใด

SHAP มาจากค่าของ Shapleyในทฤษฎีเกม ซึ่งแบ่งผลตอบแทนให้ผู้เล่นที่ร่วมมือกันอย่างเป็นธรรม

SHAP ถือว่าคุณลักษณะแต่ละรายการเป็นผู้เล่น และถือว่าผลการทำนายเป็นผลตอบแทน จากนั้นจึงแบ่งเครดิตของผลลัพธ์ให้ผู้เล่นเหล่านั้นอย่างเป็นธรรม

คำอธิบายเริ่มจากค่าฐานซึ่งคือผลการทำนายโดยเฉลี่ย จากนั้นคุณลักษณะแต่ละรายการจะค่อย ๆ ผลักเอาต์พุตไปยังค่าสุดท้าย

คุณห่อโมเดลที่ฝึกแล้วไว้ในตัวอธิบายของ SHAP จากนั้นคำนวณค่าสำหรับแถวที่คุณต้องการทำความเข้าใจ

คำอธิบายเฉพาะกรณีจะแยกองค์ประกอบของแถวหนึ่งรายการ เช่น รายได้สูงอาจผลักให้การอนุมัติสูงขึ้น ขณะที่ประวัติระยะสั้นอาจฉุดให้ลดลง

การหาค่าเฉลี่ยของค่า SHAP สัมบูรณ์จากหลายแถวจะให้ความสำคัญโดยรวม ซึ่งจัดอันดับว่าคุณลักษณะใดสำคัญที่สุดในภาพรวม

ใช้ TreeExplainer กับโมเดลต้นไม้ เพราะทำงานเร็วและแม่นยำ ส่วน KernelExplainer ช้ากว่าแต่ใช้ได้กับโมเดลเกือบทุกชนิด

เมื่อส่วนย่อยหนึ่งมีประสิทธิภาพต่ำกว่า SHAP อาจเผยให้เห็นว่าโมเดลพึ่งพาคุณลักษณะที่รั่วไหลหรือไม่เกี่ยวข้อง ซึ่งโมเดลควรละเว้น

SHAP ต้องใช้การคำนวณอย่างมาก ดังนั้นควรอธิบายตัวอย่างหรือเรียกใช้แบบออฟไลน์ แทนการเรียกใช้กับทุกคำขอที่ใช้งานจริง

SHAPแบ่งผลการทำนายให้คุณลักษณะต่าง ๆ อย่างเป็นธรรม ทำให้ได้คำอธิบายทั้งเฉพาะกรณีและโดยรวม ซึ่งช่วยเติมภาพการสังเกตระบบให้สมบูรณ์ ✅