Çok Fazla Özelliğin Laneti

Özellik eklemek yararlı görünür; ancak bir noktadan sonra her yeni sütun verilerinizi daha seyrek, modelinizi de eğitilmesi daha zor hâle getirir. 😬

Bu dar boğaz, boyutluluk laneti olarak adlandırılır: boyutlar arttıkça uzay şişer ve noktalar birbirinden çok uzaklara saçılır.

Çok yüksek boyutlarda neredeyse her nokta çifti yaklaşık aynı uzaklıkta bulunur; bu nedenle uzaklık tabanlı yöntemler nesneleri birbirinden ayıramaz hâle gelir.

Aynı yoğunluğu korumak için gereken satır sayısı, özelliklerle birlikte üstel olarak artar. Gerçek veri kümelerinde bu kadar çok satır bulunmadığından uzay büyük ölçüde boş kalır.

Çok sütun ve az satır olduğunda model, gerçek sinyal yerine gürültüyü ezberleyebilir. Bu aşırı öğrenme, eğitimde harika görünür ancak yeni verilerde başarısız olur.

Boyun santimetre ve inç cinsinden ölçülmesi gibi, birçok özellik fark edilmeden birbirini tekrar eder. Bu gereksiz tekrar, yeni bilgi eklemeden maliyeti artırır.

Her ek sütun bir miktar ölçüm gürültüsü taşır. Yeterince sütunu üst üste eklediğinizde gürültü, gerçekten önemli olan birkaç özelliği bastırabilir.

Daha fazla boyut, daha çok bellek ve daha uzun eğitim süresi demektir. Geniş tablolar, basit modellerin bile yavaş ve ayarlanması zor olmasına yol açar.

İki veya üç boyutu çizebilirsiniz, ancak elli boyutu çizemezsiniz. Yüksek boyutlu verileri doğrudan görselleştirmek veya anlamlandırmak neredeyse imkânsızdır.

Özellik seçimi ile zayıf sütunları çıkarabilir veya PCA gibi özellik çıkarma yöntemleriyle sütunları daha az sayıda yeni sütunda birleştirebilirsiniz.

PCA, birbiriyle ilişkili birçok özelliği birkaç yeni eksende sıkıştırır; boyut sayısını azaltırken bilgilerin çoğunu korur.

Boyutlar arttıkça gerçekte neyin bozulduğunu düşünün.

Çok fazla özellik boyutluluk lanetini beraberinde getirir: seyrek veriler, belirsiz uzaklıklar ve aşırı öğrenme. Boyutları, çoğu zaman PCA kullanarak azaltmak bu sorunu çözer. 🎯