Concetti e strategie del transfer learning

Il transfer learning riutilizza un modello addestrato su un dataset di grandi dimensioni come punto di partenza per un'attività nuova e correlata. Invece di imparare da zero le caratteristiche visive, si riutilizzano quelle già apprese dalla rete.

Questo riduce drasticamente la quantità di dati e di risorse di calcolo necessarie per raggiungere un'elevata accuratezza.

La maggior parte dei modelli di visione pre-addestrati viene addestrata su ImageNet: circa 1,4 milioni di immagini distribuite in 1000 classi.

Durante questo addestramento, la rete apprende una gerarchia di feature: bordi e colori nei layer iniziali, texture nei layer intermedi e parti degli oggetti verso la cima della rete. Queste feature di basso livello si trasferiscono bene a quasi tutti i task di elaborazione delle immagini.

I primi layer convoluzionali rilevano pattern generici, come bordi, forme e gradienti, che compaiono in ogni immagine naturale, che si tratti di gatti, radiografie o foto satellitari.

I layer più profondi diventano più specifici per il task, perché assemblano quei bordi nelle parti degli oggetti di ImageNet. Per questo, di solito manteniamo i layer iniziali e sostituiamo o riaddestriamo quelli successivi.

La feature extraction blocca ogni layer della base pre-addestrata, così i suoi pesi non cambiano mai. La base agisce come un estrattore di feature fisso; si addestra soltanto una nuova e piccola testa di classificazione.

Utilizzi questa strategia quando il dataset è piccolo e simile a ImageNet. È veloce e resiste all'overfitting, perché sono addestrabili pochi parametri.

Il fine-tuning sblocca i layer superiori della base e li riaddestra insieme alla testa, consentendo alla rete di adattare le proprie feature di alto livello ai dati specifici.

Utilizzi questa strategia quando dispone di più dati o quando il dominio differisce da ImageNet, ad esempio nel caso delle immagini mediche. Esegua sempre il fine-tuning con un learning rate molto basso per evitare di danneggiare i pesi pre-addestrati.

• Estrazione delle feature: base bloccata, si addestra solo la testa, molto veloce, ideale per dati pochi e simili.
• Fine-tuning: layer superiori della base sbloccati e testa addestrata insieme, più lento, ideale per dati più numerosi o diversi.

Un approccio comune consiste nell'eseguire prima l'estrazione delle feature e poi il fine-tuning in una seconda fase, quando la testa si è stabilizzata.

La quantità di dati a disposizione determina la strategia:

• Alcune centinaia di immagini: esegua solo l'estrazione delle feature, mantenendo tutto bloccato.
• Alcune migliaia: esegua l'estrazione delle feature, quindi il fine-tuning dei pochi layer superiori.
• Decine di migliaia o più: esegua il fine-tuning di una porzione più ampia della base, eventualmente dell'intera rete.

Meno dati significa bloccare un numero maggiore di layer, perché un numero inferiore di parametri addestrabili riduce il rischio di overfitting.

I modelli ImageNet restituiscono 1000 classi. Probabilmente il suo task prevede un numero diverso di classi, quindi rimuova lo strato superiore originale (include_top=False) e colleghi una testa dimensionata per le proprie classi.

Ogni famiglia di modelli pre-addestrati si aspetta input scalati nello stesso modo usato durante l'addestramento su ImageNet. Usare il preprocess_input corrispondente è essenziale, altrimenti l'accuratezza crolla.

Durante l'estrazione delle feature, un learning rate normale, ad esempio 1e-3, va bene perché viene addestrata soltanto la nuova testa.

Durante il fine-tuning deve ridurlo a un valore piccolissimo, come 1e-5. Aggiornamenti troppo grandi cancellerebbero i pesi ImageNet appresi con cura: questo effetto si chiama catastrophic forgetting.

1. Carichi una base pre-addestrata con include_top=False.
2. La blocchi e addestri una nuova testa, eseguendo la feature extraction.
3. Sblocchi i layer superiori e li riaddestri con un learning rate molto basso, eseguendo il fine-tuning.
4. Valuti il modello e lo converta per il deployment.

Questo approccio graduale offre un'elevata accuratezza anche con dataset di dimensioni moderate.

Verifichi la propria comprensione delle strategie di transfer learning.

Ha appreso che il transfer learning riutilizza le feature pre-addestrate su ImageNet, con 1,4 milioni di immagini e 1000 classi. La feature extraction mantiene la base bloccata per dataset piccoli e simili; il fine-tuning sblocca i layer superiori con un learning rate molto basso per dati più numerosi o diversi.

Abbini il preprocessing alla base, sostituisca la testa con una adatta alle proprie classi e utilizzi un flusso di lavoro graduale. Ora applicheremo questi concetti al codice con VGG16 e ResNet50.