Toplu Normalleştirme ve Katman Normalleştirmesi
Daha derin ağları eğitmek için etkinleştirmeleri kararlı hâle getirin.
Toplu Normalleştirme ve Katman Normalleştirmesi, CoddyKit'te ücretsiz bir Deep Learning Academy dersidir. Bu, 4 dersinin 3. dersidir. Aşağıdan dersin tamamını ücretsiz okuyabilir, sonra tarayıcıda yerleşik kod editörü ve 7/24 yapay zeka koçu ile uygulamalı olarak pratik yapabilirsin. Bu, Deep Learning Academy öğrenme yolunun bir parçasıdır ve ilerlemeniz web ve CoddyKit uygulaması arasında senkronize olur. Deep Learning Academy kursu toplamda 4 dersten oluşur.
Etkinlikler Neden Normalleştirilir
Sinyaller katmanlardan geçerken ölçekleri değişir ve eğitim yavaşlar. Normalleştirme, etkinlikleri kararlı ve uygun bir aralıkta tutar. ⚖️
Batch Norm Tek Satırda
Toplu normalleştirme, her özelliği geçerli mini grubun tamamında hesaplanan ortalama ve varyansı kullanarak yeniden ölçekler.
Batch Norm Ekleyin
Doğrusal veya evrişimsel bir katmandan sonra toplu normalleştirme katmanı eklersiniz. Yoğun özellikler için nn.BatchNorm1d, görüntüler için BatchNorm2d kullanın.
self.bn = nn.BatchNorm1d(128)
x = torch.relu(self.bn(self.fc(x)))Öğrenilebilir Ölçek ve Kaydırma
Toplu normalleştirme, ağın normalleştirilmiş çıktıyı gerektiği gibi yeniden ölçekleyip kaydırabilmesi için eğitilebilir iki parametre, gamma ve beta, ekler.
Daha Derin Eğitime Olanak Sağlar
Etkinlikleri kararlı hâle getirerek toplu normalleştirme, daha yüksek öğrenme oranlarına ve aksi takdirde eğitilmesi zor olacak daha derin ağlara olanak tanır.
Eğitim ve Değerlendirme İstatistikleri
Eğitim sırasında toplu normalleştirme grubun istatistiklerini kullanır; değerlendirmede ise hareketli ortalamalara geçer. Bu nedenle testten önce model.eval() çağrısını yapın.
Grup Boyutu Önemlidir
Toplu normalleştirme gruba bağlıdır. Çok küçük gruplarda istatistikler gürültülü hâle gelir ve sağladığı yarar ortadan kalkabilir.
Layer Norm ile Tanışın
Katman normalleştirme, tek bir örneğin özellikleri boyunca normalleştirme yapar; bu nedenle gruba hiç bağlı değildir.
Layer Norm Ekleyin
Katman normalleştirme, dönüştürücülerde ve RNN'lerde özellikle etkilidir. Normalleştirilecek özelliklerin boyutunu vererek nn.LayerNorm ile eklersiniz.
self.ln = nn.LayerNorm(256)
x = self.ln(x)Her İki Kipte de Aynı Davranış
Katman normalleştirme örnek başına istatistikleri kullandığı için eğitimde ve değerlendirmede aynı şekilde davranır; bu da değişken grup boyutları için uygundur.
Hangisini Seçmeli
Evrişimsel görüntü modellerinde toplu normalleştirmeyi, grupların ve uzunlukların değiştiği dizi ve dönüştürücü modellerinde ise katman normalleştirmeyi tercih edin.
Hızlı Kontrol
İki normalleştirme biçimi arasındaki temel farkı hatırlayın.
Özet
Normalleştirmeyi karşılaştırdınız: toplu normalleştirme grup istatistiklerini kullanır ve CNN'lere yardımcı olur; katman normalleştirme ise örnek başına çalışır ve dönüştürücüleri destekler. 🚀
Yapay zeka eğitmeniyle Python öğren — ücretsiz
Tarayıcında gerçek kod yaz ve çalıştır, 7/24 yapay zeka eğitmeninden anında yardım al; web'de ya da uygulamada kaldığın yerden devam et.
- Kurslar
- 30
- Dersler
- 120
Sıkça Sorulan Sorular
“Toplu Normalleştirme ve Katman Normalleştirmesi” dersi ücretsiz mi?
Evet — “Toplu Normalleştirme ve Katman Normalleştirmesi” dersin tüm metni burada web'de ücretsiz olarak okunabilir. Etkileşimli olarak pratik yapmak (yerleşik kod editörü ve 7/24 yapay zeka koçu) ve Deep Learning Academy kursunun geri kalanını açmak için CoddyKit PRO'ya yükselt. Deep Learning Academy kursu toplamda 4 dersten oluşur.
“Toplu Normalleştirme ve Katman Normalleştirmesi” dersinde ne öğreneceğim?
Daha derin ağları eğitmek için etkinleştirmeleri kararlı hâle getirin. Deep Learning Academy ile uygulamalı kodu tarayıcıda doğrudan çalıştırarak pratik yaparsın ve 7/24 yapay zeka koçu dersi çalışırken sorularını yanıtlar.
Deep Learning Academy öğrenmeye başlamak için deneyim gerekli mi?
Önceden deneyim gerekmez. CoddyKit'te Deep Learning Academy, başlangıçtan ileri seviyeye kadar yapılandırıldığı için buradan başlayabilir veya başından başlayıp kendi hızında ilerleme yapabilirsin. Bu, 4 dersinin 3. dersidir.
“Toplu Normalleştirme ve Katman Normalleştirmesi” dersi ne kadar sürer?
Çoğu CoddyKit dersi yaklaşık 5–10 dakika sürer. Her biri kısa ve etkileşimli olduğu için sabit ilerleme yaparsın ve web ile uygulama arasında tam olarak bıraktığın yerden devam edebilirsin.
Bu Deep Learning Academy dersinde kod yazıp çalıştırabilir miyim?
Evet. Her Deep Learning Academy dersi yerleşik bir kod editörü içerir, bu sayede tarayıcıda gerçek kod yazıp çalıştırabilir ve anlık yapay zeka geri bildirimi alırsın — yerel kurulum gerekli değildir.
Bu kursun tüm dersleri
- Eğitim ve Doğrulama Farkını Okuma
- Dropout: Nöronları Rastgele Atma
- Toplu Normalleştirme ve Katman Normalleştirmesi
- Ücretsiz Veri Olarak Veri Çoğaltma