Ayırt Edici Katman Bazlı Oranlar
Derin ve sığ katmanları farklı şekilde eğitin.
Ayırt Edici Katman Bazlı Oranlar, CoddyKit'te ücretsiz bir Deep Learning Academy dersidir. Bu, 4 dersinin 3. dersidir. Aşağıdan dersin tamamını ücretsiz okuyabilir, sonra tarayıcıda yerleşik kod editörü ve 7/24 yapay zeka koçu ile uygulamalı olarak pratik yapabilirsin. Bu, Deep Learning Academy öğrenme yolunun bir parçasıdır ve ilerlemeniz web ve CoddyKit uygulaması arasında senkronize olur. Deep Learning Academy kursu toplamda 4 dersten oluşur.
Herkes İçin Tek Oran mı?
Şimdiye kadar her katman aynı öğrenme oranını paylaşıyordu. Ancak erken ve geç katmanlar birbirinden çok farklı şeyler öğrenir. Belki de farklı oranları hak ediyorlardır. 🎚️
Erken Katmanlar Geneldir
Önceden eğitilmiş bir ağın erken katmanları kenarları, renkleri ve dokuları algılar. Bu özellikler neredeyse her göreve aktarılabildiğinden fazla değiştirilmeleri gerekmez.
Geç Katmanlar Özeldir
Sonraki katmanlar göreve özgü örüntüleri yakalar. Yeni veri kümenize en çok uyum sağlaması gerekenler bunlardır.
Temel Fikir
Ayrıştırıcı ince ayar, derin katmanlara çok küçük, sığ çıktı katmanlarına ise daha büyük bir öğrenme oranı verir. Her parça doğru hızda öğrenir.
Parametreleri Gruplama
Farklı oranlar kullanmak için modeli, her birinin kendi ayarlarına sahip olduğu parametre gruplarına ayırırsınız.
backbone_params = model.features.parameters()
head_params = model.classifier.parameters()Grup Başına Öğrenme Oranları
PyTorch en iyi duruma getiricileri, her grup için bir tane olmak üzere sözlüklerden oluşan bir listeyi kabul eder; her sözlük kendi lr değerini taşır. Omurga küçük, başlık ise daha büyük bir değer alır.
opt = torch.optim.Adam([
{'params': backbone_params, 'lr': 1e-5},
{'params': head_params, 'lr': 1e-3}])Neden Yararlı?
Bu yöntem değerli genel özellikleri korurken başlığın hızla uyum sağlamasına izin verir. Tek bir ortak orana kıyasla genellikle daha yüksek doğruluk elde edersiniz.
Birçok Katmana Yayma
Oranları yumuşak biçimde ölçeklendirebilirsiniz: her daha derin blok biraz daha küçük bir oran alır. Bu hızlar eğilimine bazen eğimli zamanlama denir.
Aşamalı Kilit Açma
Yardımcı bir teknik de aşamalı kilit açmadır: önce üst katmanın kilidini açın ve eğitin, sonra bir sonrakinin kilidini açarak çağlar boyunca aşağı doğru ilerleyin.
Gruplarınızı İnceleme
Her param_group öğesinin amaçladığınız oranı aldığını doğrulamak için her grubun ayarlarını en iyi duruma getiriciden tekrar okuyabilirsiniz.
for g in opt.param_groups:
print(g['lr'])Ne Zaman Kullanılmalı?
Ayrıştırıcı oranlar, genel ve özel katmanlar arasındaki farkın büyük olduğu derin ağlarda en çok faydayı sağlar.
Hızlı Kontrol
Ayrıştırıcı ince ayarda hangi katmanlara en küçük öğrenme oranı verilmelidir?
Özet
Parametre gruplarını kullanarak derin katmanlara küçük, başlığa ise daha büyük oranlar verdiniz; isteğe bağlı olarak aşamalı kilit açma uygulayarak aktarım öğrenimini daha etkili hâle getirdiniz. 🎯
Yapay zeka eğitmeniyle Python öğren — ücretsiz
Tarayıcında gerçek kod yaz ve çalıştır, 7/24 yapay zeka eğitmeninden anında yardım al; web'de ya da uygulamada kaldığın yerden devam et.
- Kurslar
- 30
- Dersler
- 120
Sıkça Sorulan Sorular
“Ayırt Edici Katman Bazlı Oranlar” dersi ücretsiz mi?
Evet — “Ayırt Edici Katman Bazlı Oranlar” dersin tüm metni burada web'de ücretsiz olarak okunabilir. Etkileşimli olarak pratik yapmak (yerleşik kod editörü ve 7/24 yapay zeka koçu) ve Deep Learning Academy kursunun geri kalanını açmak için CoddyKit PRO'ya yükselt. Deep Learning Academy kursu toplamda 4 dersten oluşur.
“Ayırt Edici Katman Bazlı Oranlar” dersinde ne öğreneceğim?
Derin ve sığ katmanları farklı şekilde eğitin. Deep Learning Academy ile uygulamalı kodu tarayıcıda doğrudan çalıştırarak pratik yaparsın ve 7/24 yapay zeka koçu dersi çalışırken sorularını yanıtlar.
Deep Learning Academy öğrenmeye başlamak için deneyim gerekli mi?
Önceden deneyim gerekmez. CoddyKit'te Deep Learning Academy, başlangıçtan ileri seviyeye kadar yapılandırıldığı için buradan başlayabilir veya başından başlayıp kendi hızında ilerleme yapabilirsin. Bu, 4 dersinin 3. dersidir.
“Ayırt Edici Katman Bazlı Oranlar” dersi ne kadar sürer?
Çoğu CoddyKit dersi yaklaşık 5–10 dakika sürer. Her biri kısa ve etkileşimli olduğu için sabit ilerleme yaparsın ve web ile uygulama arasında tam olarak bıraktığın yerden devam edebilirsin.
Bu Deep Learning Academy dersinde kod yazıp çalıştırabilir miyim?
Evet. Her Deep Learning Academy dersi yerleşik bir kod editörü içerir, bu sayede tarayıcıda gerçek kod yazıp çalıştırabilir ve anlık yapay zeka geri bildirimi alırsın — yerel kurulum gerekli değildir.
Bu kursun tüm dersleri
- Omurgayı Dondurup Başlığı Eğitme
- Daha Düşük Öğrenme Oranıyla İnce Ayar
- Ayırt Edici Katman Bazlı Oranlar
- Bir Hugging Face Modeline İnce Ayar Yapma