Metriche di regressione: MAE, MSE, RMSE e R-squared

I modelli di regressione predicono valori continui: prezzi delle abitazioni, temperature, volumi di vendita. A differenza della classificazione, in cui una previsione è corretta o errata, le previsioni di regressione sono quasi mai esattamente corrette. La domanda è: quanto si discosta la previsione dal valore reale? Le metriche di regressione quantificano la differenza tra i valori previsti e quelli effettivi. Metriche diverse assegnano pesi diversi agli errori: alcune penalizzano maggiormente gli errori grandi rispetto a quelli piccoli, alcune sono robuste agli outlier e alcune sono normalizzate per essere interpretabili come frazione della varianza spiegata. La scelta della metrica corretta dipende dalla struttura dei costi degli errori del problema.

MAE = mean(|y_true - y_pred|). L'errore assoluto medio calcola la media delle differenze assolute tra le previsioni e i valori effettivi. È espresso nella stessa unità della variabile target: un MAE di 15.000 $ per il prezzo di un'abitazione significa che, in media, le previsioni si discostano di 15.000 $. Il MAE tratta tutti gli errori in modo lineare: una previsione due volte più errata ha esattamente il doppio del costo. Il MAE è robusto agli outlier perché non eleva al quadrato gli errori. È la metrica consigliata quando la distribuzione degli errori è approssimativamente simmetrica e non si desidera che gli errori anomali dominino l'aggregazione.

MSE = mean((y_true - y_pred)^2). L'errore quadratico medio eleva al quadrato ogni errore prima di calcolarne la media. Questo rende l'MSE sensibile agli outlier: una singola previsione con errore pari a 10 contribuisce per 100 all'MSE, mentre una previsione con errore pari a 1 contribuisce solo per 1; gli errori anomali vengono quindi amplificati quadraticamente. L'MSE è la funzione di perdita naturale per la regressione lineare (minimizzare l'MSE produce la soluzione dei minimi quadrati ordinari). La sua unità di misura è il quadrato di quella della variabile target (dollari^2 per i prezzi delle abitazioni), il che la rende meno interpretabile del MAE, ma matematicamente conveniente per l'ottimizzazione.

RMSE = sqrt(MSE). La radice dell'errore quadratico medio riporta l'MSE alle unità originali della variabile target (dollari, non dollari^2) calcolandone la radice quadrata. È la metrica di regressione più utilizzata perché è interpretabile nella stessa unità della variabile target, pur penalizzando gli errori grandi più di quelli piccoli. Un RMSE di 20.000 $ per i prezzi delle abitazioni significa che l'entità tipica dell'errore è di 20.000 $, sebbene gli errori anomali abbiano un peso maggiore rispetto al MAE. RMSE è sempre >= MAE per le stesse previsioni; la differenza tra i due aumenta quando sono presenti errori anomali.

Scelga il MAE quando: si prevedono outlier e non si desidera che dominino la metrica; si vuole una metrica facilmente interpretabile come errore medio; gli errori di entità diversa sono proporzionalmente importanti allo stesso modo. Scelga l'RMSE quando: gli errori grandi sono molto più costosi di quelli piccoli (ad esempio, nella previsione della domanda di energia, un errore di 10 volte è molto più costoso di un errore di 1 volta); la funzione di perdita utilizzata durante l'addestramento è l'MSE e si desidera che la valutazione sia coerente con l'addestramento; la varianza delle previsioni è più importante dell'errore mediano. In pratica, riporti sempre sia il MAE sia l'RMSE: se RMSE >> MAE, dominano gli errori anomali; se RMSE ≈ MAE, gli errori sono distribuiti in modo uniforme.

R^2 = 1 - MSE(model) / Var(y_true). R-squared misura la frazione della varianza della variabile target spiegata dal modello. R^2 = 1,0 indica previsioni perfette (varianza residua nulla). R^2 = 0,0 indica che il modello non è migliore della previsione della media di y per ogni campione. R^2 può essere negativo se il modello è peggiore del valore di riferimento basato sulla media. R^2 è indipendente dalla scala: un valore di 0,85 ha lo stesso significato sia per i prezzi delle abitazioni sia per le temperature. Questo lo rende la metrica principale per confrontare modelli di regressione relativi a problemi o scale diverse.

L'aggiunta di più variabili a un modello di regressione aumenta sempre R^2 (o lo lascia invariato) sui dati di addestramento, anche quando tali variabili sono rumore casuale. R^2 corretto tiene conto di questo penalizzando il numero di variabili: diminuisce quando si aggiunge una variabile che non migliora il modello abbastanza da giustificare la complessità aggiuntiva. Formula: Adj R^2 = 1 - (1 - R^2) * (n-1) / (n-p-1) dove n = campioni, p = variabili. Utilizzi R^2 corretto quando confronta modelli con numeri diversi di variabili, per evitare di selezionare modelli eccessivamente complessi.

MAPE = 100 * mean(|y_true - y_pred| / |y_true|). L'errore percentuale assoluto medio esprime l'errore come percentuale del valore effettivo, rendendolo indipendente dalla scala e facilmente interpretabile: un MAPE del 5% significa che, in media, le previsioni si discostano del 5% dal valore reale. Limitazioni: il MAPE non è definito quando i valori effettivi sono zero (divisione per zero) ed è asimmetrico: una sottostima produce un errore maggiore rispetto a una sovrastima dello stesso importo. Utilizzi il MAPE per attività di previsione (vendite, domanda) in cui gli stakeholder comprendono naturalmente le variazioni percentuali.

Scikit-learn fornisce tutte le principali metriche di regressione nel modulo sklearn.metrics. Quando utilizza cross_val_score, passi scoring='neg_mean_squared_error' (negativo perché, per convenzione, un valore più alto è migliore) e ne neghi il risultato, oppure utilizzi 'neg_root_mean_squared_error' per ottenere direttamente l'RMSE. Per R^2, utilizzi scoring='r2'. Riporti sempre più metriche: MAE per l'errore assoluto medio, RMSE per mostrare la sensibilità agli outlier e R^2 per la varianza spiegata. In questo modo ottiene un quadro completo delle prestazioni del modello.

Oltre alle metriche riassuntive, l'analisi dei residui rivela se le ipotesi del modello sono rispettate. Tracci i residui (y_true - y_pred) rispetto ai valori previsti. Un buon modello mostra: (1) residui dispersi casualmente intorno allo zero, senza alcun andamento (omoschedasticità); (2) nessuna relazione tra l'ampiezza dei residui e il valore previsto (assenza di eteroschedasticità). Segnali di allarme: una forma a imbuto (i residui aumentano con il valore previsto) suggerisce che il modello necessita di una trasformazione logaritmica; un andamento curvo suggerisce che la relazione non è lineare e che il modello è mal specificato. Esegua sempre un'analisi dei residui prima di distribuire qualsiasi modello di regressione.

Una guida pratica: utilizzi il MAE quando desidera minimizzare l'errore assoluto medio e non vuole dare eccessiva importanza agli outlier: è una scelta robusta per i report generali. Utilizzi l'RMSE quando il modello minimizza l'MSE durante l'addestramento e desidera che la valutazione sia coerente, oppure quando gli errori grandi sono particolarmente costosi (previsione della domanda, previsione del consumo energetico). Utilizzi R^2 per confrontare modelli sullo stesso dataset o per spiegare la qualità del modello agli stakeholder non tecnici come «percentuale di varianza spiegata». Utilizzi il MAPE per le previsioni aziendali, quando le variazioni percentuali rispetto ai valori effettivi costituiscono il linguaggio naturale degli stakeholder.

In questa lezione ha imparato che: MAE calcola la media degli errori assoluti ed è robusto rispetto agli outlier, RMSE eleva al quadrato gli errori e penalizza maggiormente le deviazioni ampie, R^2 misura la frazione di varianza spiegata (0 = baseline della media, 1 = perfetto) e la differenza tra MAE e RMSE rivela la concentrazione degli errori dovuti agli outlier. Ora esamineremo come scegliere la metrica più adatta al Suo specifico problema aziendale.