أشجار القرار والغابات العشوائية

تصنّف شجرة القرار البيانات عبر طرح سلسلة من الأسئلة بنعم أو لا حول سماتك حتى تصل إلى إجابة. 🌳

كل نقطة تفرع هي تقسيم، وهي قاعدة مثل: هل العمر أكبر من 30؟ تتجه البيانات إلى اليسار أو اليمين بناءً على هذا الاختبار.

عندما لا تبقى أسئلة مفيدة، تصل إلى ورقة. وتصبح الفئة الغالبة في تلك الورقة هي التنبؤ.

تختار الشجرة كل تقسيم لجعل المجموعات نقية قدر الإمكان، ويُقاس ذلك بمعايير مثل شائبة جيني أو الإنتروبيا.

تتمثل إحدى نقاط قوتها الحقيقية في قابلية التفسير: يمكنك تتبع مسار الأسئلة وشرح سبب إصدار التنبؤ بدقة.

إذا تُركت الشجرة دون قيود، فإنها تنمو بعمق وتحفظ بيانات التدريب. ويضر فرط التكيّف هذا بالدقة في الصفوف الجديدة غير المرئية.

تروّض الشجرة بتحديد نموها باستخدام max_depth، فتضحي بجزء بسيط من ملاءمة التدريب مقابل تعميم أفضل بكثير.

تدرّب الغابة العشوائية أشجارًا كثيرة وتجعلها تصوّت. وتكون الجماعة أكثر استقرارًا بكثير من أي شجرة عميقة منفردة.

لتحقيق التنوع، تتدرب كل شجرة على عينة عشوائية من الصفوف ومجموعة فرعية عشوائية من السمات. وهذا التنوع هو سر القوة.

لا يتطلب الأمر سوى سطر واحد في scikit-learn. اضبط n_estimators لاختيار عدد الأشجار التي ستنضم إلى المجموعة.

تخبرك الغابة المدرّبة بالمدخلات الأكثر أهمية من خلال feature_importances_، وهو دليل سريع إلى العوامل التي تقود التنبؤات.

تطرح شجرة القرار الأسئلة وصولًا إلى ورقة؛ بينما تصوّت الغابة العشوائية عبر أشجار كثيرة لتقليل فرط التكيّف. 🎯