Daha Düşük Öğrenme Oranıyla İnce Ayar
Önceden eğitilmiş ağırlıkları yavaşça güncelleyin.
Daha Düşük Öğrenme Oranıyla İnce Ayar, CoddyKit'te ücretsiz bir Deep Learning Academy dersidir. Bu, 4 dersinin 2. dersidir. Aşağıdan dersin tamamını ücretsiz okuyabilir, sonra tarayıcıda yerleşik kod editörü ve 7/24 yapay zeka koçu ile uygulamalı olarak pratik yapabilirsin. Bu, Deep Learning Academy öğrenme yolunun bir parçasıdır ve ilerlemeniz web ve CoddyKit uygulaması arasında senkronize olur. Deep Learning Academy kursu toplamda 4 dersten oluşur.
Yalnızca Başlığın Ötesinde
Omurgayı dondurmak hızlıdır; ancak bazen tüm modelin uyum sağlamasını istersiniz. İnce ayar, omurganın kilidini açar ve her şeyi birlikte eğitir. 🔧
Omurganın Kilidini Açma
İnce ayar yapmak için requires_grad değerini yeniden True olarak ayarlayın; böylece önceden eğitilmiş ağırlıklar eğitim sırasında tekrar değişebilir.
for p in model.parameters():
p.requires_grad = TrueBüyük Bir Adımın Tehlikesi
Bu önceden eğitilmiş ağırlıklar zaten çok iyidir. Büyük bir öğrenme oranı, gürültülü güncellemelerle onları ezebilir ve öğrendiklerini yok edebilir.
Nazik İlerleyin
Çözüm, daha düşük bir öğrenme oranıdır. Küçük adımlar, önceden eğitilmiş ağırlıkları bilgilerini silmeden görevinize doğru yönlendirir.
opt = torch.optim.Adam(model.parameters(), lr=1e-5)Ne Kadar Düşük?
Yaygın bir pratik kural şudur: sıfırdan eğitimde kullanacağınız öğrenme oranından on ila yüz kat daha küçük bir öğrenme oranı kullanın.
Önce Başlığı Isıtma
Yaygın bir yöntem şudur: birkaç çağ boyunca yalnızca başlığı eğitin, ardından omurganın kilidini açıp ince ayar yapın. Bu, başlangıçta omurgaya gelecek ani sarsıntıyı önler.
Doğrulama Kaybını İzleme
İnce ayar, küçük bir veri kümesine hızla aşırı uyum sağlayabilir. Doğrulama kaybını yakından izleyin ve yükselmeye başladığı anda durun.
Daha Az Çağrı Gerekir
Model verileri zaten anladığı için ince ayar genellikle onlarca değil, yalnızca birkaç çağda yakınsar.
Bir Zamanlayıcıyla Birleştirme
Bir zamanlayıcı, öğrenme oranını zaman içinde daha da küçültebilir ve modelin iyi bir çözüme yumuşakça yerleşmesini sağlayabilir.
sched = torch.optim.lr_scheduler.CosineAnnealingLR(opt, T_max=5)Tam İnce Ayar ve Dondurulmuş Eğitim
Tam ince ayar daha fazla veri ve hesaplama gücü gerektirir, ancak daha yüksek doğruluğa ulaşır. Dondurulmuş eğitim daha ucuzdur. Ödünleşim, veri kümenizin boyutuna bağlıdır.
En İyi Kontrol Noktasını Koruma
İnce ayar sırasında modelin performansı değişebileceği için doğrulama doğruluğu her arttığında modeli kaydedin; böylece en iyi sürümünüzü asla kaybetmezsiniz.
Hızlı Kontrol
İnce ayar yapmak için önceden eğitilmiş bir modelin kilidini açtınız. Hangi öğrenme oranını kullanmalısınız?
Özet
Omurganın kilidini açtınız, düşük bir öğrenme oranıyla ince ayar yaptınız, önce başlığı ısıttınız ve aşırı uyumu durdurmak için doğrulamayı izlediniz. 🎯
Yapay zeka eğitmeniyle Python öğren — ücretsiz
Tarayıcında gerçek kod yaz ve çalıştır, 7/24 yapay zeka eğitmeninden anında yardım al; web'de ya da uygulamada kaldığın yerden devam et.
- Kurslar
- 30
- Dersler
- 120
Sıkça Sorulan Sorular
“Daha Düşük Öğrenme Oranıyla İnce Ayar” dersi ücretsiz mi?
Evet — “Daha Düşük Öğrenme Oranıyla İnce Ayar” dersin tüm metni burada web'de ücretsiz olarak okunabilir. Etkileşimli olarak pratik yapmak (yerleşik kod editörü ve 7/24 yapay zeka koçu) ve Deep Learning Academy kursunun geri kalanını açmak için CoddyKit PRO'ya yükselt. Deep Learning Academy kursu toplamda 4 dersten oluşur.
“Daha Düşük Öğrenme Oranıyla İnce Ayar” dersinde ne öğreneceğim?
Önceden eğitilmiş ağırlıkları yavaşça güncelleyin. Deep Learning Academy ile uygulamalı kodu tarayıcıda doğrudan çalıştırarak pratik yaparsın ve 7/24 yapay zeka koçu dersi çalışırken sorularını yanıtlar.
Deep Learning Academy öğrenmeye başlamak için deneyim gerekli mi?
Önceden deneyim gerekmez. CoddyKit'te Deep Learning Academy, başlangıçtan ileri seviyeye kadar yapılandırıldığı için buradan başlayabilir veya başından başlayıp kendi hızında ilerleme yapabilirsin. Bu, 4 dersinin 2. dersidir.
“Daha Düşük Öğrenme Oranıyla İnce Ayar” dersi ne kadar sürer?
Çoğu CoddyKit dersi yaklaşık 5–10 dakika sürer. Her biri kısa ve etkileşimli olduğu için sabit ilerleme yaparsın ve web ile uygulama arasında tam olarak bıraktığın yerden devam edebilirsin.
Bu Deep Learning Academy dersinde kod yazıp çalıştırabilir miyim?
Evet. Her Deep Learning Academy dersi yerleşik bir kod editörü içerir, bu sayede tarayıcıda gerçek kod yazıp çalıştırabilir ve anlık yapay zeka geri bildirimi alırsın — yerel kurulum gerekli değildir.
Bu kursun tüm dersleri
- Omurgayı Dondurup Başlığı Eğitme
- Daha Düşük Öğrenme Oranıyla İnce Ayar
- Ayırt Edici Katman Bazlı Oranlar
- Bir Hugging Face Modeline İnce Ayar Yapma