0Pricing
Deep Learning Academy · Lektion

Backbone einfrieren, Head trainieren

Nutzen Sie gelernte Merkmale mit geringem Aufwand wieder.

Backbone einfrieren, Head trainieren ist eine kostenlose Deep Learning Academy-Lektion auf CoddyKit. Dies ist Lektion 1 von 4. Du kannst die komplette Lektion unten kostenlos lesen – dann übst du sie direkt im Browser mit einem integrierten Code-Editor und einem KI-Tutor rund um die Uhr. Sie ist Teil des Deep Learning Academy-Lernpfads, und dein Fortschritt wird über Web und CoddyKit-App synchronisiert. Der Deep Learning Academy-Kurs umfasst insgesamt 4 Lektionen.

Teile dieser Lektion wurden noch nicht übersetzt und werden auf Englisch angezeigt.

Borrow a Smart Brain

Why train from zero? A model already trained on millions of images has learned useful features. Transfer learning reuses that knowledge for your task. 🧠

Backbone vs Head

A pretrained model has two parts: the backbone that extracts general features, and the head that makes the final prediction for its original task.

The Plan

The simplest recipe: freeze the backbone so it stays as is, then swap in a fresh head and train only that part on your own labels.

Load a Pretrained Model

Start with a model that already carries good weights. torchvision hands you popular architectures with one call.

from torchvision import models
model = models.resnet18(weights='DEFAULT')

Freezing Means No Gradients

To freeze a layer you set requires_grad to False. PyTorch then skips computing gradients for it, so its weights never change.

for p in model.parameters():
    p.requires_grad = False

Why Freeze at All?

Freezing the backbone keeps its hard-won features intact and means far fewer weights to update. That makes training faster and works with little data.

Swap the Head

The old head predicts the wrong classes. Replace it with a fresh Linear layer sized for your number of classes.

import torch.nn as nn
model.fc = nn.Linear(512, 3)

The New Head Is Trainable

A brand-new layer starts with requires_grad set to True automatically. So only your head will learn while the frozen backbone watches.

Optimize Only the Head

Pass just the head's parameters to your optimizer. Updating only these few weights is what makes this approach so cheap.

opt = torch.optim.Adam(model.fc.parameters(), lr=1e-3)

The Backbone Becomes an Extractor

With its weights frozen, the backbone simply turns each image into a rich feature vector. Your head learns to read those features.

When This Shines

Freeze-and-train-head is ideal with a small dataset or limited compute. You get strong results in minutes instead of days.

Quick Check

You froze the backbone and replaced the head. Which weights actually update during training?

Recap

You learned to borrow a pretrained backbone, freeze it, attach a fresh head, and train just that head. Fast, cheap, and great with small data. 🎯

Häufig gestellte Fragen

Ist die Lektion „Backbone einfrieren, Head trainieren“ kostenlos?

Ja — der vollständige Text von „Backbone einfrieren, Head trainieren“ ist hier im Web kostenlos zu lesen. Um sie interaktiv zu üben (integrierter Code-Editor und 24/7 KI-Tutor) und den Rest des Deep Learning Academy-Kurses freizuschalten, upgrade auf CoddyKit PRO. Der Deep Learning Academy-Kurs umfasst insgesamt 4 Lektionen.

Was lerne ich in „Backbone einfrieren, Head trainieren“?

Nutzen Sie gelernte Merkmale mit geringem Aufwand wieder. Du übst Deep Learning Academy mit praktischem Code, den du direkt im Browser ausführst, und ein 24/7 KI-Tutor beantwortet deine Fragen während du die Lektion bearbeitest.

Brauche ich Erfahrung, um Deep Learning Academy zu starten?

Keine Vorkenntnisse erforderlich. Deep Learning Academy auf CoddyKit ist für Anfänger bis fortgeschrittene Lernende strukturiert, sodass du hier starten oder von Anfang an beginnen und in deinem eigenen Tempo voranschreiten kannst. Dies ist Lektion 1 von 4.

Wie lange dauert die Lektion „Backbone einfrieren, Head trainieren“?

Die meisten CoddyKit-Lektionen dauern etwa 5–10 Minuten. Jede ist kompakt und interaktiv, sodass du stetig Fortschritte machst und genau dort weitermachst, wo du aufgehört hast – im Web und in der App.

Kann ich in dieser Deep Learning Academy-Lektion Code schreiben und ausführen?

Ja. Jede Deep Learning Academy-Lektion enthält einen integrierten Code-Editor, sodass du echten Code direkt in deinem Browser schreibst und ausführst und sofort KI-Feedback erhältst — ohne lokale Einrichtung erforderlich.

Alle Lektionen in diesem Kurs

  1. Backbone einfrieren, Head trainieren
  2. Mit einer niedrigeren Lernrate fine-tunen
  3. Diskriminative Lernraten je Schicht
  4. Ein Hugging-Face-Modell fine-tunen
← Zurück zu Deep Learning Academy