Ricampionamento e pesi delle classi

È possibile correggere lo sbilanciamento modificando i dati con il resampling oppure modificando i calcoli con i pesi delle classi. Entrambi i metodi spostano l'attenzione verso la classe rara.

L'oversampling copia o sintetizza altri esempi rari, avvicinando il numero delle classi e offrendo al modello più dati da cui apprendere.

L'undersampling elimina invece alcuni esempi della classe maggioritaria. È rapido e leggero, ma rischia di scartare informazioni utili.

SMOTE crea nuovi punti della classe minoritaria tra quelli reali nello spazio delle feature, invece di duplicarli, così il modello osserva una varietà aggiuntiva.

Riequilibrate sempre e soltanto il training set. Modificare il test set falsifica i punteggi e nasconde le prestazioni reali.

Invece di spostare i dati, potete fare in modo che ogni errore raro abbia un peso maggiore. Pesi di classe più elevati spingono la loss a tenere conto della minoritaria.

Molti modelli di scikit-learn accettano class_weight. Impostatelo su balanced per calcolare i pesi in modo inversamente proporzionale alla frequenza delle classi.

La ponderazione bilanciata scala ogni classe in base all'inverso della sua frequenza, così un'etichetta rara conta effettivamente molte volte di più.

I class weights sono economici e mantengono intatti i dati, mentre il resampling può cogliere schemi più ricchi. Provate prima i pesi.

Un oversampling aggressivo può indurre il modello a memorizzare gli esempi rari. Validate il modello su dati intatti per individuare presto questo overfitting.

Non esiste un metodo migliore in assoluto. Scegliete un metodo e valutate lo usando il recall della minoritaria, non l'accuracy grezza. 🎯

Contrastate lo sbilanciamento con il resampling o i pesi delle classi, riequilibrate solo i dati di training e valutate i risultati in base al recall della minoritaria. ✅