Geler le socle et entraîner la tête
Réutilisez à moindre coût les caractéristiques apprises.
Geler le socle et entraîner la tête est une leçon Deep Learning Academy gratuite sur CoddyKit. Ceci est la leçon 1 sur 4. Tu peux lire la leçon complète ci-dessous gratuitement — puis la pratiquer en direct dans le navigateur avec un éditeur de code intégré et un tuteur IA 24/7. Elle fait partie du parcours d'apprentissage Deep Learning Academy, et ta progression se synchronise sur le web et l'application CoddyKit. Le cours Deep Learning Academy comprend 4 leçons au total.
Certaines parties de cette leçon n'ont pas encore été traduites et s'affichent en anglais.
Borrow a Smart Brain
Why train from zero? A model already trained on millions of images has learned useful features. Transfer learning reuses that knowledge for your task. 🧠
Backbone vs Head
A pretrained model has two parts: the backbone that extracts general features, and the head that makes the final prediction for its original task.
The Plan
The simplest recipe: freeze the backbone so it stays as is, then swap in a fresh head and train only that part on your own labels.
Load a Pretrained Model
Start with a model that already carries good weights. torchvision hands you popular architectures with one call.
from torchvision import models
model = models.resnet18(weights='DEFAULT')Freezing Means No Gradients
To freeze a layer you set requires_grad to False. PyTorch then skips computing gradients for it, so its weights never change.
for p in model.parameters():
p.requires_grad = FalseWhy Freeze at All?
Freezing the backbone keeps its hard-won features intact and means far fewer weights to update. That makes training faster and works with little data.
Swap the Head
The old head predicts the wrong classes. Replace it with a fresh Linear layer sized for your number of classes.
import torch.nn as nn
model.fc = nn.Linear(512, 3)The New Head Is Trainable
A brand-new layer starts with requires_grad set to True automatically. So only your head will learn while the frozen backbone watches.
Optimize Only the Head
Pass just the head's parameters to your optimizer. Updating only these few weights is what makes this approach so cheap.
opt = torch.optim.Adam(model.fc.parameters(), lr=1e-3)The Backbone Becomes an Extractor
With its weights frozen, the backbone simply turns each image into a rich feature vector. Your head learns to read those features.
When This Shines
Freeze-and-train-head is ideal with a small dataset or limited compute. You get strong results in minutes instead of days.
Quick Check
You froze the backbone and replaced the head. Which weights actually update during training?
Recap
You learned to borrow a pretrained backbone, freeze it, attach a fresh head, and train just that head. Fast, cheap, and great with small data. 🎯
Questions Fréquemment Posées
La leçon « Geler le socle et entraîner la tête » est-elle gratuite ?
Oui — le texte complet de « Geler le socle et entraîner la tête » est gratuit à lire ici sur le web. Pour la pratiquer de manière interactive (un éditeur de code intégré et un tuteur IA 24/7) et déverrouiller le reste du cours Deep Learning Academy, passe à CoddyKit PRO. Le cours Deep Learning Academy comprend 4 leçons au total.
Qu'est-ce que j'apprendrai dans « Geler le socle et entraîner la tête » ?
Réutilisez à moindre coût les caractéristiques apprises. Tu pratiques Deep Learning Academy avec du code pratique que tu exécutes directement dans le navigateur, et un tuteur IA 24/7 répond à tes questions au fur et à mesure que tu avances dans la leçon.
Dois-je avoir de l'expérience pour commencer Deep Learning Academy ?
Aucune expérience préalable n'est requise. Deep Learning Academy sur CoddyKit est structuré pour les débutants jusqu'aux apprenants avancés, donc tu peux commencer ici ou depuis le début et avancer à ton rythme. Ceci est la leçon 1 sur 4.
Combien de temps prend la leçon « Geler le socle et entraîner la tête » ?
La plupart des leçons CoddyKit prennent environ 5–10 minutes. Chacune est courte et interactive, tu progresses régulièrement et tu repiques exactement où tu t'es arrêté sur le web et l'app.
Peux-tu écrire et exécuter du code dans cette leçon Deep Learning Academy ?
Oui. Chaque leçon Deep Learning Academy inclut un éditeur de code intégré, tu écris et exécutes du vrai code directement dans ton navigateur et tu reçois des retours IA instantanés — aucune configuration locale requise.
Toutes les leçons de ce cours
- Geler le socle et entraîner la tête
- Ajuster finement avec un taux d’apprentissage plus faible
- Taux discriminants selon les couches
- Ajuster finement un modèle Hugging Face