تفسير التنبؤات باستخدام SHAP

نادراً ما يقبل أصحاب المصلحة رقمًا بلا سبب. وتوضح قابلية التفسير المدخلات التي قادت إلى مخرج معين. 💡

يُسنِد SHAP إلى كل ميزة قيمة توضّح مقدار دفعها لتنبؤ معين إلى الأعلى أو الأسفل مقارنةً بخط أساس.

ينحدر SHAP من قيم Shapley في نظرية الألعاب، التي تقسّم العائد بعدل بين اللاعبين المتعاونين.

يتعامل SHAP مع كل ميزة بوصفها لاعبًا، ومع التنبؤ بوصفه العائد، ثم يوزع الفضل في النتيجة بعدل بينهم.

تبدأ التفسيرات من قيمة أساسية، وهي متوسط التنبؤ. ثم تدفع كل ميزة المخرج تدريجيًا نحو قيمته النهائية.

تغلف نموذجك المدرّب داخل مفسر SHAP، ثم تحسب القيم للصفوف التي تريد فهمها.

يفكك التفسير المحلي صفًا واحدًا: فقد يدفع الدخل المرتفع الموافقة إلى الأعلى، بينما يدفعها التاريخ القصير إلى الأسفل.

يمنح حساب متوسط قيم SHAP المطلقة عبر صفوف كثيرة أهمية عالمية، فيرتب الميزات الأكثر تأثيرًا عمومًا.

استخدم TreeExplainer مع نماذج الأشجار؛ فهو سريع ودقيق. أما KernelExplainer فأبطأ، لكنه يعمل مع أي نموذج تقريبًا.

عندما يكون أداء إحدى الشرائح ضعيفًا، قد يكشف SHAP أن النموذج يعتمد على ميزة متسربة أو زائفة ينبغي له تجاهلها.

يتطلب SHAP حسابات كثيفة، لذا فسّر عينة أو شغّله دون اتصال بدلًا من تشغيله مع كل طلب فعلي.

يقسّم SHAP التنبؤ بعدل بين ميزاته، ويوفر تفسيرات محلية وعالمية تكمل صورة قابلية الرصد. ✅