Özellik Mühendisliği ve Seçimi

Özellik mühendisliği ve seçimi, etkili makine öğrenimi modelleri oluşturmanın kritik adımlarıdır. Bu süreçler, model performansını artırmak için yeni özellikler oluşturmayı ve en ilgili özellikleri seçmeyi kapsar.

Bu derste, tahmin doğruluğunu artırmak için özellik mühendisliği ve seçimi tekniklerini öğreneceksiniz.

Özellik Mühendisliği Nedir?

Özellik mühendisliği, makine öğrenimi modellerini daha etkili hâle getirmek için ham verilerden yeni özellikler oluşturmayı kapsar. Örnekler şunlardır:

• Zaman damgalarından gün, ay veya saat gibi zamana dayalı özellikler çıkarmak.
• Birden fazla özelliği yeni bir özellikte birleştirmek.
• Aralıklarını standartlaştırmak için sayısal özellikleri ölçeklendirmek.

Yeni Özellikler Oluşturma

Mevcut verilere dayanarak yeni özellikler oluşturalım:

# Example: Creating new features
import pandas as pd

data = {'Timestamp': ['2025-01-01 12:00:00', '2025-01-02 15:30:00']}
df = pd.DataFrame(data)
df['Hour'] = pd.to_datetime(df['Timestamp']).dt.hour
df['Day'] = pd.to_datetime(df['Timestamp']).dt.day
print(df)

Özellikleri Ölçeklendirme

Ölçeklendirme, tüm sayısal özelliklerin aynı ölçeğe sahip olmasını sağlar ve bu da model performansını artırır:

# Example: Scaling features
from sklearn.preprocessing import MinMaxScaler

scaler = MinMaxScaler()
values = [[10], [20], [30]]
scaled_values = scaler.fit_transform(values)
print(scaled_values)

Özellik Seçimi

Özellik seçimi, model için en ilgili özelliklerin seçilmesini kapsar. Yaygın teknikler şunlardır:

• Filtre Yöntemleri: Korelasyon gibi istatistiksel ölçütlere göre özellikleri seçmek.
• Sarmalayıcı Yöntemler: Özyinelemeli Özellik Eleme (RFE) gibi algoritmaları kullanmak.
• Gömülü Yöntemler: Örneğin Lasso regresyonunda olduğu gibi, model eğitimi sırasında özellikleri seçmek.

Korelasyona Dayalı Özellik Seçimi

Yüksek korelasyonlu özellikler gereksiz tekrarlara neden olabilir. Korelasyonları hesaplamak için Pandas kullanın:

# Example: Correlation-based feature selection
import pandas as pd

data = {'Feature1': [1, 2, 3], 'Feature2': [2, 4, 6], 'Feature3': [1, 1, 1]}
df = pd.DataFrame(data)
print(df.corr())

Özyinelemeli Özellik Eleme (RFE)

RFE, en az önemli özellikleri yinelemeli olarak kaldıran bir sarmalayıcı yöntemdir:

# Example: RFE
from sklearn.feature_selection import RFE
from sklearn.linear_model import LogisticRegression

X = [[1, 2, 3], [4, 5, 6], [7, 8, 9]]
y = [0, 1, 0]
model = LogisticRegression()
rfe = RFE(model, n_features_to_select=2)
rfe.fit(X, y)
print("Selected Features:", rfe.support_)

Ağaç Tabanlı Modellerle Özellik Öneminin Belirlenmesi

Rastgele Ormanlar gibi ağaç tabanlı modeller, özellik önem puanları sağlar:

# Example: Feature importance
from sklearn.ensemble import RandomForestClassifier

X = [[1, 2, 3], [4, 5, 6], [7, 8, 9]]
y = [0, 1, 0]
model = RandomForestClassifier()
model.fit(X, y)
print("Feature Importances:", model.feature_importances_)

Özellik Mühendisliğinde Sık Yapılan Hatalar

Kaçınmanız gereken bazı hatalar şunlardır:

• Aşırı uyuma yol açabilecek çok fazla özellik oluşturmak.
• Uzaklık tabanlı algoritmalarda ölçeklendirme gereksinimini göz ardı etmek.
• Gereksiz tekrarlara neden olacak şekilde yüksek korelasyonlu özellikleri kullanmak.

Neler Öğrendiniz?

Bu derste şunları öğrendiniz:

• Makine öğreniminde özellik mühendisliği ve seçiminin önemini.
• Yeni özellikler oluşturma ve sayısal özellikleri ölçeklendirme tekniklerini.
• RFE ve ağaç tabanlı modeller gibi yöntemleri kullanarak ilgili özelliklerin nasıl seçileceğini.
• Özellik mühendisliği sırasında kaçınılması gereken yaygın hataları.

Harika iş çıkardınız! Şimdi bir sonraki konuya geçelim.