İneceğiniz Bir Arazi Olarak Kayıp

Modelinizin loss değeri, tahminlerinin ne kadar hatalı olduğunu belirten tek bir sayıdır. Daha küçük loss, daha iyi tahminler anlamına gelir. Eğitim, onu küçültme çabasından ibarettir. 📉

Aynı veriler, ağırlıklarınıza bağlı olarak farklı loss değerleri üretir. Bir ağırlığı değiştirirseniz loss değeri yükselir veya düşer. Dolayısıyla loss aslında ağırlıkların bir işlevidir.

Her ağırlık ayarını engebeli bir manzaradaki bir nokta, o noktadaki yüksekliği de loss olarak hayal edin. Eğitim, daha alçak bir yere ulaşmak için yokuş aşağı yürümek demektir.

Bu manzaradaki en alçak nokta minimumdur: modelinizin en iyi tahmin yaptığı ağırlıklar buradadır. Bütün amacınız o vadinin tabanına ulaşmaktır.

Tek bir ağırlık olduğunda manzara yalnızca iki boyutlu bir eğridir. loss değerini ağırlığa göre doğrudan çizebilir ve loss değerinin en küçük olduğu çukuru görebilirsiniz.

İkinci bir ağırlık eklediğinizde eğri, tepeleri ve vadileri olan üç boyutlu bir yüzeye dönüşür. Gerçek modellerde milyonlarca ağırlık bulunduğundan manzara milyonlarca boyutta yaşar.

Yüksek boyutlarda manzaranın tamamını aynı anda asla göremezsiniz. Yalnızca ayaklarınızın hemen altındaki eğimi hisseder ve buna göre adım atarsınız.

Dik bir eğim, loss değerinin burada hızla değiştiği anlamına gelir; bu nedenle küçük bir adım çok yardımcı olur. Düz zemin ise bir vadinin veya platonun yakınında olduğunuzu ve ilerlemenin yavaşladığını gösterir.

Manzarada birçok çukur olabilir. Yerel minimum, sizi en derin vadinin üzerinde tutan küçük bir vadidir. Yine de derin ağlar genellikle iyi şekilde eğitilir.

Tüm eğitim algoritmasına bir nedeni olduğu için gradyan inişi denir: en alta yakın bir yerde karar kılana kadar bu loss manzarasında tekrar tekrar yokuş aşağı adım atarsınız.

Loss değerini bir arazi olarak düşünmek eğitimi sezgisel hâle getirir: Neredeyim, aşağı yön hangisi ve ne kadar büyük bir adım atmalıyım? Diğer tüm fikirler bu görüntü üzerine kuruludur.

Loss, ağırlıklarınıza bağlı bir sayıdır; bu nedenle tepeler ve vadilerden oluşan bir manzara meydana getirir. Eğitim, bulabileceğiniz en düşük loss değerine doğru yokuş aşağı yürümektir. 🏔️