Doğrusal Olmama Gerçek Gücü Neden Ortaya Çıkarır

Bir sinir ağı katmanı yalnızca ağırlıklı toplamdır: girdilerini ölçeklendirir ve kaydırır. Bu işlem tek başına tamamen doğrusaldır. 📏

Sorun şudur: iki doğrusal katmanı üst üste dizmek size yine başka bir doğrusal katman verir. Kaç tane dizerseniz dizin sonuç tek bir düz doğru olarak kalır.

İki doğrusal adım tek bir adımda birleşir. Birleşik ağırlık, iki ağırlık matrisinin çarpımıdır; dolayısıyla burada derinlik size hiçbir şey kazandırmaz.

Bir etkinleştirme fonksiyonu, katmanlar arasındaki sinyali büker. Bu küçük kırılma, katmanların tek bir katmanda birleşmesini engeller.

Doğrusal olmayanlık eklediğinizde her katman veriyi farklı biçimde yeniden şekillendirebilir. Artık derinlik, aynı haritayı tekrarlamak yerine gerçekten güç katar.

Doğrusal olmayanlık sayesinde ağınız eğri karar sınırları oluşturabilir. Sıradan bir doğrusal model ise yalnızca düz bir kesim çizebilir.

Yeterli sayıda nöron ve doğrusal olmayanlık, neredeyse her fonksiyona yaklaşabilir. Bu, ünlü evrensel yaklaşım fikridir. ✨

Etkinleştirmeyi her doğrusal katmanın hemen sonrasına, ileri geçişin içine yerleştirirsiniz. Bir sonraki katman görmeden önce katmanın çıktısını dönüştürür.

Görüntüler, konuşma ve dil, derinlemesine doğrusal olmayan örüntülerdir. Bunları iyi modellemeyi ancak bükülebilen bir ağ umabilir.

Etkinleştirmeyi unutursanız gösterişli derin modeliniz sessizce kılık değiştirmiş tek bir doğrusal regresyona dönüşür. Derinlik boşa gider.

Genellikle her gizli katmandan sonra aynı etkinleştirmeyi uygular, ardından görevinize uygun özel bir etkinleştirmeyi çıktı için seçersiniz.

Üst üste dizilmiş doğrusal katmanlar doğrusal kalır; bu nedenle eğrileri modelleyemez. Bir doğrusal olmayanlık eklemek derinliğin gücünü açığa çıkarır ve ağınızın zengin, gerçek dünya örüntülerini öğrenmesini sağlar. 🎯