Özellik Seçme Yöntemleri
Filtre (varyans, korelasyon), sarmalayıcı (RFE) ve gömülü (L1 düzenlileştirme) yöntemleri.
Özellik Seçme Yöntemleri, CoddyKit'te ücretsiz bir Learn AI with Python dersidir. Bu, 4 dersinin 1. dersidir. Aşağıdan dersin tamamını ücretsiz okuyabilir, sonra tarayıcıda yerleşik kod editörü ve 7/24 yapay zeka koçu ile uygulamalı olarak pratik yapabilirsin. Bu, Learn AI with Python öğrenme yolunun bir parçasıdır ve ilerlemeniz web ve CoddyKit uygulaması arasında senkronize olur. Learn AI with Python kursu toplamda 4 dersten oluşur.
Neden Özellik Seçilir
Özellik seçimi yalnızca en yararlı sütunları tutar. Daha az özellik daha hızlı eğitim, daha az aşırı öğrenme ve daha kolay yorumlama demektir. Gürültüyü kaldırmak çoğu zaman doğruluğu da artırır.
Üç Yöntem Ailesi
Seçim yöntemleri üç gruba ayrılır:
- Filtre özellikleri bir istatistiğe göre sıralar (hızlı, modelden bağımsız)
- Sarmalayıcı modeller eğiterek alt kümeleri arar (yavaş, doğru)
- Gömülü seçim model eğitimi sırasında gerçekleşir
VarianceThreshold
En basit filtre yöntemi: VarianceThreshold, varyansı bir eşik değerinin altında olan özellikleri kaldırır. Neredeyse sabit sütunlar bilgi taşımaz.
from sklearn.feature_selection import VarianceThreshold
sel = VarianceThreshold(threshold=0.01)
X_reduced = sel.fit_transform(X)
print("Kept:", X_reduced.shape[1], "of", X.shape[1])f_classif ile SelectKBest
SelectKBest, en yüksek puanı alan K özelliği tutar. f_classif ile her özelliğin sınıf etiketiyle ne kadar güçlü ilişkili olduğunu ölçen bir ANOVA F-sınaması kullanır.
from sklearn.feature_selection import SelectKBest, f_classif
sel = SelectKBest(score_func=f_classif, k=10)
X_best = sel.fit_transform(X, y)
print(sel.get_support(indices=True))Karşılıklı Bilgi
mutual_info_classif, bir özellik ile hedef arasındaki her türlü bağımlılığı (doğrusal olmayanlar da dahil) ölçer. F-sınamasından farklı olarak ANOVA'nın gözden kaçırdığı doğrusal olmayan ilişkileri yakalar.
from sklearn.feature_selection import SelectKBest, mutual_info_classif
sel = SelectKBest(score_func=mutual_info_classif, k=10)
X_mi = sel.fit_transform(X, y)f_classif ile Karşılıklı Bilgi Karşılaştırması
f_classif hızlıdır ve doğrusal ilişkileri saptar; mutual_info_classif daha yavaştır ancak doğrusal olmayan ilişkileri de yakalar. Karmaşık ilişkilerden şüpheleniyorsanız karşılıklı bilgiyi tercih edin.
import numpy as np
from sklearn.feature_selection import f_classif, mutual_info_classif
f_scores, _ = f_classif(X, y)
mi_scores = mutual_info_classif(X, y)
print("F-test top:", np.argsort(f_scores)[::-1][:5])
print("MI top:", np.argsort(mi_scores)[::-1][:5])Özyinelemeli Özellik Eleme
RFE bir sarmalayıcı yöntemdir: bir model eğitir, en zayıf özelliği kaldırır ve bunu tekrarlar. Özellikleri sıralamak için modelin kendi önem göstergesini kullanır.
from sklearn.feature_selection import RFE
from sklearn.linear_model import LogisticRegression
rfe = RFE(estimator=LogisticRegression(max_iter=1000), n_features_to_select=10)
rfe.fit(X, y)
print(rfe.support_)RFECV: Sayıyı Otomatik Olarak Belirleme
RFECV, RFE'ye çapraz doğrulama ekleyerek sabit bir tahmin yerine doğrulama puanına göre en uygun özellik sayısını bulur.
from sklearn.feature_selection import RFECV
from sklearn.ensemble import RandomForestClassifier
rfecv = RFECV(
estimator=RandomForestClassifier(),
cv=5,
scoring="accuracy",
)
rfecv.fit(X, y)
print("Optimal features:", rfecv.n_features_)Lasso ile SelectFromModel
Gömülü seçimde Lasso (L1), önemsiz katsayıları tam olarak sıfıra küçültür. SelectFromModel daha sonra yalnızca sıfır olmayanları tutar.
from sklearn.feature_selection import SelectFromModel
from sklearn.linear_model import Lasso
sel = SelectFromModel(Lasso(alpha=0.01))
sel.fit(X, y)
X_lasso = sel.transform(X)
print("Kept:", X_lasso.shape[1])Ağaç Önemleriyle SelectFromModel
SelectFromModel, rastgele ormanlar gibi feature_importances_ sunan herhangi bir tahminciyle de çalışır. "mean" veya "median" gibi bir threshold belirleyin.
from sklearn.feature_selection import SelectFromModel
from sklearn.ensemble import RandomForestClassifier
sel = SelectFromModel(
RandomForestClassifier(n_estimators=200),
threshold="median",
)
sel.fit(X, y)Yöntem Seçimi
Belirgin gereksiz özellikleri atmak için ucuz filtrelerle (VarianceThreshold, SelectKBest) başlayın. İyi bir denge için gömülü SelectFromModel kullanın. RFECV'yi yalnızca doğruluk en önemli olduğunda ve işlem gücü elverdiğinde kullanın.
Kısa Sınama
Özellik seçimi bilginizi sınayın.
Özet
Özet: Özellik seçimi; filtre (VarianceThreshold, SelectKBest ile f_classif veya mutual_info_classif), sarmalayıcı (RFECV) ve gömülü (SelectFromModel ile Lasso veya ağaç önemleri) yöntemlere ayrılır. Filtreler en hızlıdır; RFECV en doğru sonuçları verir. Doğrusal olmayan ilişkiler için karşılıklı bilgiyi kullanın.
Sıkça Sorulan Sorular
“Özellik Seçme Yöntemleri” dersi ücretsiz mi?
Evet — “Özellik Seçme Yöntemleri” dersin tüm metni burada web'de ücretsiz olarak okunabilir. Etkileşimli olarak pratik yapmak (yerleşik kod editörü ve 7/24 yapay zeka koçu) ve Learn AI with Python kursunun geri kalanını açmak için CoddyKit PRO'ya yükselt. Learn AI with Python kursu toplamda 4 dersten oluşur.
“Özellik Seçme Yöntemleri” dersinde ne öğreneceğim?
Filtre (varyans, korelasyon), sarmalayıcı (RFE) ve gömülü (L1 düzenlileştirme) yöntemleri. Learn AI with Python ile uygulamalı kodu tarayıcıda doğrudan çalıştırarak pratik yaparsın ve 7/24 yapay zeka koçu dersi çalışırken sorularını yanıtlar.
Learn AI with Python öğrenmeye başlamak için deneyim gerekli mi?
Önceden deneyim gerekmez. CoddyKit'te Learn AI with Python, başlangıçtan ileri seviyeye kadar yapılandırıldığı için buradan başlayabilir veya başından başlayıp kendi hızında ilerleme yapabilirsin. Bu, 4 dersinin 1. dersidir.
“Özellik Seçme Yöntemleri” dersi ne kadar sürer?
Çoğu CoddyKit dersi yaklaşık 5–10 dakika sürer. Her biri kısa ve etkileşimli olduğu için sabit ilerleme yaparsın ve web ile uygulama arasında tam olarak bıraktığın yerden devam edebilirsin.
Bu Learn AI with Python dersinde kod yazıp çalıştırabilir miyim?
Evet. Her Learn AI with Python dersi yerleşik bir kod editörü içerir, bu sayede tarayıcıda gerçek kod yazıp çalıştırabilir ve anlık yapay zeka geri bildirimi alırsın — yerel kurulum gerekli değildir.
Bu kursun tüm dersleri
- Özellik Seçme Yöntemleri
- Etkileşimli ve Polinom Özellikler Oluşturma
- Hedef Kodlama ve Gelişmiş Kategorik Veri İşleme
- Featuretools ile Otomatik Özellik Mühendisliği