レイヤーごとに変える学習率
深いレイヤーと浅いレイヤーを異なる方法で学習させます
「レイヤーごとに変える学習率」はCoddyKit上の無料Deep Learning Academyレッスンです。 これはレッスン3/4です。 下記で完全なレッスンを無料で読むことができます。その後、ブラウザ内の組み込みコードエディタと24時間対応のAIチューターでハンズオン演習できます。 これはDeep Learning Academy学習パスの一部であり、ウェブとCoddyKitアプリ全体で進捗が同期されます。 Deep Learning Academyコースには全4レッスンが含まれています。
このレッスンの一部はまだ翻訳されておらず、英語で表示されています。
One Rate for All?
So far every layer shared a single learning rate. But early and late layers learn very different things. Maybe they deserve different rates. 🎚️
Early Layers Are General
The early layers of a pretrained net detect edges, colors, and textures. These features transfer to almost any task, so they barely need changing.
Late Layers Are Specific
The later layers capture task-specific patterns. These are the ones that should adapt most to your new dataset.
The Big Idea
Discriminative fine-tuning gives deep layers a tiny learning rate and shallow output layers a larger one. Each part learns at the right speed.
Group the Parameters
To use different rates, you split the model into parameter groups, each with its own settings.
backbone_params = model.features.parameters()
head_params = model.classifier.parameters()Per-Group Learning Rates
PyTorch optimizers accept a list of dicts, one per group, each carrying its own lr. The backbone gets a small one, the head a bigger one.
opt = torch.optim.Adam([
{'params': backbone_params, 'lr': 1e-5},
{'params': head_params, 'lr': 1e-3}])Why It Helps
This protects the precious general features while letting the head adapt quickly. You often get higher accuracy than a single shared rate.
Slanted Across Many Layers
You can scale rates smoothly: each deeper block gets a slightly smaller rate. This gradient of speeds is sometimes called a slanted schedule.
Gradual Unfreezing
A partner technique is gradual unfreezing: unfreeze the top layer first, train, then unfreeze the next, working downward over epochs.
Inspect Your Groups
You can read back each group's settings from the optimizer to confirm every param_group got the rate you intended.
for g in opt.param_groups:
print(g['lr'])When to Reach for It
Discriminative rates pay off most on deep networks where the gap between general and specific layers is large.
Quick Check
In discriminative fine-tuning, which layers should get the smallest learning rate?
Recap
You gave deep layers small rates and the head a larger one using parameter groups, optionally with gradual unfreezing, for sharper transfer learning. 🎯
よくある質問
「レイヤーごとに変える学習率」レッスンは無料ですか？
はい。「レイヤーごとに変える学習率」の完全なテキストはこのウェブで無料で読めます。インタラクティブに演習し（組み込みコードエディタと24時間対応のAIチューター）、Deep Learning Academyコースの残りをアンロックするには、CoddyKit PROにアップグレードしてください。 Deep Learning Academyコースには全4レッスンが含まれています。
「レイヤーごとに変える学習率」で何を学びますか？
深いレイヤーと浅いレイヤーを異なる方法で学習させます ブラウザで直接実行するハンズオンコードでDeep Learning Academyを演習し、24時間対応のAIチューターがレッスンを進める中での質問に答えます。
Deep Learning Academyを始めるのに経験は必要ですか？
事前経験は必要ありません。CoddyKitのDeep Learning Academyは初級者から上級者向けに構成されているため、ここから始めるか最初から始めて、自分のペースで進むことができます。 これはレッスン3/4です。
「レイヤーごとに変える学習率」レッスンにはどのくらい時間がかかりますか？
ほとんどのCoddyKitレッスンは約5～10分かかります。各レッスンはコンパクトでインタラクティブなので、着実に進歩し、ウェブとアプリ全体で正確に前回の場所から再開できます。
このDeep Learning Academyレッスンでコードを書いて実行できますか？
はい。すべてのDeep Learning Academyレッスンに組み込みコードエディタが含まれているため、ブラウザでリアルコードを書いて実行し、即座のAIフィードバックを取得できます。ローカル設定は不要です。