Konzepte und Strategien des Transfer Learnings

Transfer Learning verwendet ein auf einem großen Datensatz trainiertes Modell als Ausgangspunkt für eine neue, verwandte Aufgabe. Statt visuelle Merkmale von Grund auf zu lernen, nutzen Sie Merkmale, die das Netzwerk bereits gelernt hat.

Dadurch verringern sich der benötigte Daten- und Rechenaufwand für eine hohe Genauigkeit erheblich.

Die meisten vortrainierten Computer-Vision-Modelle werden auf ImageNet trainiert: auf rund 1,4 Millionen Bildern aus 1000 Klassen.

Während dieses Trainings lernt das Netzwerk eine Hierarchie von Merkmalen: Kanten und Farben in frühen Schichten, Texturen in mittleren Schichten und Objektteile in den oberen Schichten. Diese Merkmale auf niedriger Ebene lassen sich gut auf nahezu jede Bildaufgabe übertragen.

Die ersten Faltungsschichten erkennen allgemeine Muster (Kanten, Flecken, Farbverläufe), die in jedem natürlichen Bild vorkommen – unabhängig davon, ob es Katzen, Röntgenbilder oder Satellitenaufnahmen zeigt.

Die tieferen Schichten werden zunehmend aufgabenspezifisch (sie setzen diese Kanten zu Objektteilen aus ImageNet zusammen). Deshalb behalten wir normalerweise die frühen Schichten bei und ersetzen oder trainieren die späteren neu.

Bei der Feature-Extraktion wird jede Schicht des vortrainierten Basismodells eingefroren, sodass sich ihre Gewichte nie ändern. Das Basismodell dient als unveränderlicher Merkmalsextraktor; Sie trainieren nur einen kleinen neuen Klassifikationskopf darauf.

Verwenden Sie diese Methode, wenn Ihr Datensatz klein und ImageNet ähnlich ist. Sie ist schnell und wirkt einer Überanpassung entgegen, weil nur wenige Parameter trainierbar sind.

Beim Fine-Tuning werden die obersten Schichten des Basismodells wieder trainierbar gemacht und gemeinsam mit dem Kopf neu trainiert. So kann das Netzwerk seine höherwertigen Merkmale an Ihre spezifischen Daten anpassen.

Verwenden Sie diese Methode, wenn Sie mehr Daten haben oder sich Ihre Domäne von ImageNet unterscheidet (z. B. medizinische Aufnahmen). Führen Sie das Fine-Tuning immer mit einer sehr niedrigen Lernrate durch, damit die vortrainierten Gewichte nicht zerstört werden.

• Feature-Extraktion: Basismodell eingefroren, nur der Kopf wird trainiert, sehr schnell, am besten für kleine und ähnliche Datensätze.
• Fine-Tuning: obere Schichten des Basismodells und der Kopf werden trainiert, langsamer, am besten für größere und unähnliche Datensätze.

Ein gängiges Vorgehen besteht darin, zunächst eine Feature-Extraktion durchzuführen und anschließend in einer zweiten Phase ein Fine-Tuning vorzunehmen, sobald sich der Kopf stabilisiert hat.

Die verfügbare Datenmenge bestimmt Ihre Strategie:

• Wenige hundert Bilder: nur Feature-Extraktion (alles einfrieren).
• Einige Tausend: zunächst Feature-Extraktion, anschließend Fine-Tuning der obersten Schichten.
• Zehntausende oder mehr: größere Teile des Basismodells oder möglicherweise das gesamte Netzwerk feinabstimmen.

Weniger Daten bedeuten, dass Sie mehr einfrieren sollten, weil weniger trainierbare Parameter das Risiko einer Überanpassung verringern.

ImageNet-Modelle klassifizieren Bilder in 1000 Klassen. Ihre Aufgabe hat wahrscheinlich eine andere Anzahl, daher entfernen Sie den ursprünglichen Kopf (include_top=False) und fügen einen eigenen Kopf hinzu, dessen Größe zu Ihren Klassen passt.

Jede vortrainierte Modellfamilie erwartet Eingaben, die genauso skaliert sind wie während des ImageNet-Trainings. Die passende Funktion preprocess_input zu verwenden, ist entscheidend – andernfalls bricht die Genauigkeit ein.

Während der Feature-Extraktion ist eine normale Lernrate (z. B. 1e-3) ausreichend, da nur der neue Kopf trainiert wird.

Beim Fine-Tuning müssen Sie die Lernrate auf einen sehr kleinen Wert wie 1e-5 senken. Große Aktualisierungen würden die sorgfältig gelernten ImageNet-Gewichte überschreiben – ein Effekt, der als katastrophales Vergessen bezeichnet wird.

1. Laden Sie ein vortrainiertes Basismodell mit include_top=False.
2. Frieren Sie es ein und trainieren Sie einen neuen Kopf (Feature-Extraktion).
3. Machen Sie die obersten Schichten wieder trainierbar und trainieren Sie mit einer sehr kleinen Lernrate weiter (Fine-Tuning).
4. Bewerten Sie das Modell und konvertieren Sie es für die Bereitstellung.

Dieser schrittweise Ansatz ermöglicht selbst mit überschaubaren Datensätzen eine hohe Genauigkeit.

Überprüfen Sie Ihr Verständnis der Strategien für Transfer Learning.

Sie haben gelernt, dass Transfer Learning auf ImageNet vortrainierte Merkmale wiederverwendet (1,4 Mio. Bilder, 1000 Klassen). Bei der Feature-Extraktion bleibt das Basismodell für kleine und ähnliche Datensätze eingefroren; beim Fine-Tuning werden die obersten Schichten für größere und unähnliche Datensätze mit einer sehr kleinen Lernrate wieder trainierbar gemacht.

Passen Sie die Vorverarbeitung an das Basismodell an, ersetzen Sie den Kopf durch einen für Ihre Klassen geeigneten und verwenden Sie einen schrittweisen Ablauf. Als Nächstes setzen wir dies mit VGG16 und ResNet50 in Code um.