Fine-Tuning: Entsperren und erneutes Trainieren

Nachdem die Feature-Extraktion Ihren Kopf trainiert hat, holt das Fine-Tuning zusätzliche Genauigkeit heraus, indem die oberen Schichten des vortrainierten Basismodells an Ihre Daten angepasst werden. Beginnen Sie damit erst, wenn der Kopf stabil ist; andernfalls können große Gradienten eines zufällig initialisierten Kopfes das Basismodell beschädigen.

Setzen Sie base.trainable = True, damit die Gewichte wieder aktualisiert werden können. Dadurch wird allein bereits jede Schicht wieder trainierbar, was normalerweise zu aggressiv ist.

Frühe Schichten enthalten allgemeine Detektoren für Kanten und Texturen, die Sie beibehalten möchten. Frieren Sie die ersten N Schichten wieder ein und führen Sie das Fine-Tuning nur für die tieferen, aufgabenspezifischen Schichten durch.

Fine-Tuning erfordert eine sehr kleine Lernrate wie 1e-5. Die vortrainierten Gewichte sind bereits gut; Sie möchten sie nur vorsichtig anpassen. Eine hohe Lernrate führt zu katastrophalem Vergessen und löscht das ImageNet-Wissen, wegen dessen Sie das Modell verwenden.

Nach einer Änderung der trainable-Flags müssen Sie das Modell neu kompilieren, damit Keras die Gewichte, die Gradienten erhalten, neu festlegt. Setzen Sie hier die niedrige Lernrate.

1. Phase 1 (Feature-Extraktion): Basismodell eingefroren, Kopf mit etwa 1e-3 trainieren, bis die Validierungsgenauigkeit ein Plateau erreicht.
2. Phase 2 (Fine-Tuning): oberste Schichten wieder trainierbar machen, mit etwa 1e-5 neu kompilieren und das Training fortsetzen.

Diese Aufteilung stabilisiert das Training und schützt die vortrainierten Merkmale.

Setzen Sie das Training an der Stelle fort, an der Phase 1 endete, und verwenden Sie initial_epoch, damit Protokolle und Zeitpläne durchgängig bleiben.

Ein Scheduler verringert die Lernrate im Laufe der Zeit, sodass die Aktualisierungen bei der Konvergenz kleiner werden. ReduceLROnPlateau senkt die Lernrate automatisch, wenn der Validierungsverlust stagniert.

ResNet und EfficientNet enthalten BatchNormalization-Schichten, die laufende Statistiken erfassen. Beim Fine-Tuning führt es oft zu stabileren Ergebnissen, die BN-Schichten eingefroren zu lassen (oder sie im Inferenzmodus zu verwenden), da das Aktualisieren ihrer Statistiken auf einem kleinen Datensatz die Genauigkeit beeinträchtigen kann.

Feinabstimmung fügt viele trainierbare Parameter hinzu, wodurch das Risiko einer Überanpassung steigt. Wirken Sie dem mit Datenerweiterung, Dropout und EarlyStopping auf Basis des Validierungsverlusts entgegen.

Ein robuster Fine-Tuning-Ablauf: Trainieren Sie zunächst den Head, heben Sie anschließend die Sperre der obersten Schichten auf, frieren Sie BN ein, kompilieren Sie mit 1e-5 neu und trainieren Sie dann mit einem Scheduler und Early Stopping. Vergleichen Sie immer die Validierungsgenauigkeit vor und nach dem Fine-Tuning, um zu bestätigen, dass es tatsächlich geholfen hat.

Testen Sie Ihr Wissen über Fine-Tuning.

Sie haben gelernt, ein Modell feinabzustimmen, indem Sie base.trainable=True setzen, die ersten N Schichten wieder einfrieren, mit einer sehr kleinen Lernrate (1e-5) neu kompilieren und einen Prozess in zwei Phasen ausführen. Ein Learning-Rate-Scheduler und Early Stopping sorgen für Stabilität, und BatchNorm-Schichten erfordern besondere Aufmerksamkeit. Als Nächstes: leichte Modelle für die Bereitstellung am Edge.