Modelli lineari: regressione e classificazione
Addestri modelli di regressione lineare e regressione logistica.
Modelli lineari: regressione e classificazione è una lezione Python Academy gratuita su CoddyKit. Questa è la lezione 2 di 4. Puoi leggere la lezione completa qui gratuitamente — poi esercitati direttamente nel browser con un editor di codice integrato e un tutor IA disponibile 24/7. Fa parte del percorso di apprendimento Python Academy, e i tuoi progressi si sincronizzano tra il web e l'app CoddyKit. Il corso Python Academy include 4 lezioni in totale.
Regressione lineare
LinearRegression adatta una retta (o un iperpiano) minimizzando l'errore dei minimi quadrati.
from sklearn.linear_model import LinearRegression
from sklearn.datasets import make_regression
from sklearn.model_selection import train_test_split
from sklearn.metrics import mean_squared_error
X, y = make_regression(n_samples=200, n_features=5, noise=10, random_state=0)
X_tr, X_te, y_tr, y_te = train_test_split(X, y, random_state=0)
model = LinearRegression().fit(X_tr, y_tr)
print("RMSE:", mean_squared_error(y_te, model.predict(X_te))**0.5)Coefficienti del modello
Dopo l'adattamento, esamini coef_ (i pesi delle feature) e intercept_.
from sklearn.linear_model import LinearRegression
import numpy as np
X = np.array([[1],[2],[3]])
y = np.array([2, 4, 6])
model = LinearRegression().fit(X, y)
print("Coef:", model.coef_) # [2.]
print("Intercept:", model.intercept_) # ~0Regressione Ridge e Lasso
Ridge (L2) e Lasso (L1) aggiungono la regolarizzazione per prevenire l'overfitting. alpha controlla l'intensità della regolarizzazione.
from sklearn.linear_model import Ridge, Lasso
from sklearn.datasets import make_regression
X, y = make_regression(n_features=20, noise=15, random_state=0)
ridge = Ridge(alpha=1.0).fit(X, y)
lasso = Lasso(alpha=0.1).fit(X, y)
print("Ridge coef[:5]:", ridge.coef_[:5])
print("Lasso coef[:5]:", lasso.coef_[:5]) # some are 0 (sparse)Regressione logistica
LogisticRegression è un classificatore lineare per problemi binari o multiclasse. Nonostante il nome, predice le probabilità delle classi.
from sklearn.linear_model import LogisticRegression
from sklearn.datasets import make_classification
from sklearn.model_selection import train_test_split
from sklearn.metrics import accuracy_score
X, y = make_classification(random_state=0)
X_tr, X_te, y_tr, y_te = train_test_split(X, y, random_state=0)
model = LogisticRegression().fit(X_tr, y_tr)
print("Accuracy:", accuracy_score(y_te, model.predict(X_te)))Regressione logistica multiclasse
Imposti multi_class="multinomial" oppure utilizzi l'impostazione predefinita OvR (uno contro il resto) per 3 o più classi.
from sklearn.linear_model import LogisticRegression
from sklearn.datasets import load_iris
X, y = load_iris(return_X_y=True)
model = LogisticRegression(max_iter=200).fit(X, y)
print("Classes:", model.classes_) # [0 1 2]
print("Accuracy:", model.score(X, y))Ridimensionamento delle feature per i modelli lineari
Ridimensioni sempre le feature per i modelli lineari, soprattutto quando utilizza la regolarizzazione. Feature non ridimensionate producono penalizzazioni apparentemente molto diverse.
from sklearn.pipeline import Pipeline
from sklearn.preprocessing import StandardScaler
from sklearn.linear_model import LogisticRegression
pipe = Pipeline([
("scale", StandardScaler()),
("clf", LogisticRegression())
])
pipe.fit(X_tr, y_tr)
print(pipe.score(X_te, y_te))Curva di apprendimento
Una curva di apprendimento mostra come migliorano le prestazioni del modello con l'aumentare dei dati di addestramento; è utile per diagnosticare underfitting e overfitting.
from sklearn.model_selection import learning_curve
import numpy as np
train_sizes, train_scores, val_scores = learning_curve(
LogisticRegression(), X, y, cv=5,
train_sizes=np.linspace(0.1, 1.0, 5)
)
print("Val mean:", val_scores.mean(axis=1))Punteggio R² per la regressione
r2_score misura la proporzione di varianza spiegata. 1.0 indica una previsione perfetta; 0 significa che il modello non è migliore della previsione della media.
from sklearn.metrics import r2_score
from sklearn.linear_model import LinearRegression
from sklearn.datasets import make_regression
X, y = make_regression(noise=20, random_state=0)
model = LinearRegression().fit(X, y)
print("R²:", r2_score(y, model.predict(X)))Feature polinomiali
Utilizzi PolynomialFeatures per adattare relazioni non lineari con un modello lineare.
from sklearn.preprocessing import PolynomialFeatures
from sklearn.pipeline import Pipeline
from sklearn.linear_model import LinearRegression
import numpy as np
X = np.array([[1],[2],[3],[4],[5]])
y = np.array([1, 4, 9, 16, 25]) # y = x^2
pipe = Pipeline([
("poly", PolynomialFeatures(degree=2)),
("lr", LinearRegression())
])
pipe.fit(X, y)
print(pipe.predict([[6]])) # ~36SGDClassifier e SGDRegressor
La discesa del gradiente stocastico può gestire dataset molto grandi, per i quali i solver standard sono troppo lenti.
from sklearn.linear_model import SGDClassifier
from sklearn.preprocessing import StandardScaler
from sklearn.pipeline import Pipeline
from sklearn.datasets import make_classification
X, y = make_classification(n_samples=100_000, random_state=0)
pipe = Pipeline([("sc", StandardScaler()), ("sgd", SGDClassifier())])
pipe.fit(X, y)
print(pipe.score(X, y))Percorsi di regolarizzazione
Faccia variare alpha su una griglia con RidgeCV/LassoCV, che selezionano automaticamente il valore migliore di alpha tramite la convalida incrociata.
from sklearn.linear_model import RidgeCV, LassoCV
from sklearn.datasets import make_regression
X, y = make_regression(n_features=20, noise=10, random_state=0)
ridge = RidgeCV(alphas=[0.1, 1, 10]).fit(X, y)
print("Best alpha:", ridge.alpha_)Verifica rapida
Qual è la differenza fondamentale tra la regressione Ridge e la regressione Lasso?
Riepilogo
Utilizzi LinearRegression per la regressione e LogisticRegression per la classificazione. Aggiunga Ridge/Lasso per la regolarizzazione. Ridimensioni sempre le feature. Utilizzi PolynomialFeatures per i problemi non lineari. Valuti il modello con r2_score (regressione) o accuracy_score (classificazione).
Domande Frequenti
La lezione «Modelli lineari: regressione e classificazione» è gratuita?
Sì — il testo completo di «Modelli lineari: regressione e classificazione» è gratuito qui sul web. Per esercitarvi in modo interattivo (un editor di codice integrato e un tutor IA 24/7) e sbloccare il resto del corso Python Academy, passa a CoddyKit PRO. Il corso Python Academy include 4 lezioni in totale.
Cosa imparerò in «Modelli lineari: regressione e classificazione»?
Addestri modelli di regressione lineare e regressione logistica. Eserciti Python Academy con codice pratico che esegui direttamente nel browser, e un tutor IA 24/7 risponde alle tue domande mentre lavori sulla lezione.
Ho bisogno di esperienza per iniziare Python Academy?
Non è richiesta alcuna esperienza precedente. Python Academy su CoddyKit è strutturato per principianti e studenti avanzati, quindi puoi iniziare da qui o dall'inizio e procedere al tuo ritmo. Questa è la lezione 2 di 4.
Quanto tempo richiede la lezione «Modelli lineari: regressione e classificazione»?
La maggior parte delle lezioni CoddyKit richiede circa 5–10 minuti. Ogni lezione è breve e interattiva, quindi fai progressi costanti e riprendi esattamente da dove hai lasciato su web e app.
Posso scrivere ed eseguire codice in questa lezione Python Academy?
Sì. Ogni lezione Python Academy include un editor di codice integrato, quindi scrivi ed esegui codice reale direttamente nel tuo browser e ricevi feedback istantaneo dall'IA — nessuna configurazione locale necessaria.
Tutte le lezioni di questo corso
- L'API di scikit-learn: fit, transform, predict
- Modelli lineari: regressione e classificazione
- Modelli basati su alberi: alberi decisionali e random forest
- Valutazione dei modelli e cross-validation