Заморозьте основу и обучите головку
Недорого используйте повторно изученные признаки
«Заморозьте основу и обучите головку» — бесплатный урок Deep Learning Academy на CoddyKit. Это урок 1 из 4. Ты можешь прочитать весь урок бесплатно ниже — а потом практиковать его прямо в браузере с встроенным редактором кода и ИИ-репетитором 24/7. Это часть пути обучения Deep Learning Academy, и твой прогресс синхронизируется между веб-версией и приложением CoddyKit. Курс Deep Learning Academy содержит 4 уроков всего.
Части этого урока еще не переведены и отображаются на английском.
Borrow a Smart Brain
Why train from zero? A model already trained on millions of images has learned useful features. Transfer learning reuses that knowledge for your task. 🧠
Backbone vs Head
A pretrained model has two parts: the backbone that extracts general features, and the head that makes the final prediction for its original task.
The Plan
The simplest recipe: freeze the backbone so it stays as is, then swap in a fresh head and train only that part on your own labels.
Load a Pretrained Model
Start with a model that already carries good weights. torchvision hands you popular architectures with one call.
from torchvision import models
model = models.resnet18(weights='DEFAULT')Freezing Means No Gradients
To freeze a layer you set requires_grad to False. PyTorch then skips computing gradients for it, so its weights never change.
for p in model.parameters():
p.requires_grad = FalseWhy Freeze at All?
Freezing the backbone keeps its hard-won features intact and means far fewer weights to update. That makes training faster and works with little data.
Swap the Head
The old head predicts the wrong classes. Replace it with a fresh Linear layer sized for your number of classes.
import torch.nn as nn
model.fc = nn.Linear(512, 3)The New Head Is Trainable
A brand-new layer starts with requires_grad set to True automatically. So only your head will learn while the frozen backbone watches.
Optimize Only the Head
Pass just the head's parameters to your optimizer. Updating only these few weights is what makes this approach so cheap.
opt = torch.optim.Adam(model.fc.parameters(), lr=1e-3)The Backbone Becomes an Extractor
With its weights frozen, the backbone simply turns each image into a rich feature vector. Your head learns to read those features.
When This Shines
Freeze-and-train-head is ideal with a small dataset or limited compute. You get strong results in minutes instead of days.
Quick Check
You froze the backbone and replaced the head. Which weights actually update during training?
Recap
You learned to borrow a pretrained backbone, freeze it, attach a fresh head, and train just that head. Fast, cheap, and great with small data. 🎯
Часто задаваемые вопросы
Урок «Заморозьте основу и обучите головку» бесплатный?
Да — полный текст урока «Заморозьте основу и обучите головку» бесплатно доступен здесь в веб-версии. Чтобы практиковать его интерактивно (встроенный редактор кода и ИИ-репетитор 24/7) и разблокировать остальной курс Deep Learning Academy, подпишись на CoddyKit PRO. Курс Deep Learning Academy содержит 4 уроков всего.
Чему я научусь в уроке «Заморозьте основу и обучите головку»?
Недорого используйте повторно изученные признаки Ты практикуешь Deep Learning Academy с помощью реального кода, который запускаешь прямо в браузере, и ИИ-репетитор 24/7 отвечает на твои вопросы во время урока.
Нужен ли мне опыт, чтобы начать Deep Learning Academy?
Предыдущий опыт не требуется. Deep Learning Academy на CoddyKit структурирован для всех уровней — от новичков до продвинутых, поэтому ты можешь начать отсюда или с самого начала и учиться в своем темпе. Это урок 1 из 4.
Сколько времени занимает урок «Заморозьте основу и обучите головку»?
Большинство уроков CoddyKit занимают около 5–10 минут. Каждый из них компактный и интерактивный, поэтому ты постоянно делаешь прогресс и продолжаешь с того же места в веб-версии и приложении.
Можно ли писать и запускать код в этом уроке Deep Learning Academy?
Да. Каждый урок Deep Learning Academy включает встроенный редактор кода, поэтому ты пишешь и запускаешь реальный код прямо в браузере и получаешь моментальную обратную связь от AI — локальная установка не требуется.
Все уроки этого курса
- Заморозьте основу и обучите головку
- Дообучение с меньшей скоростью обучения
- Дифференцированные скорости по слоям
- Дообучите модель Hugging Face