Feature engineering og -udvælgelse

Udvikling og udvælgelse af egenskaber er afgørende trin i opbygningen af effektive maskinlæringsmodeller. Processerne omfatter oprettelse af nye egenskaber og udvælgelse af de mest relevante for at forbedre modellens ydeevne.

I denne lektion lærer du teknikker til at udvikle og udvælge egenskaber, så forudsigelsesnøjagtigheden forbedres.

Udvikling af egenskaber indebærer at oprette nye egenskaber ud fra rådata for at gøre maskinlæringsmodeller mere effektive. Eksempler omfatter:

• Udtrækning af tidsbaserede egenskaber som dag, måned eller time fra tidsstempler.
• Kombination af flere egenskaber til en ny egenskab.
• Skalering af numeriske egenskaber for at standardisere deres interval.

Lad os oprette nye egenskaber baseret på eksisterende data:

# Example: Creating new features
import pandas as pd

data = {'Timestamp': ['2025-01-01 12:00:00', '2025-01-02 15:30:00']}
df = pd.DataFrame(data)
df['Hour'] = pd.to_datetime(df['Timestamp']).dt.hour
df['Day'] = pd.to_datetime(df['Timestamp']).dt.day
print(df)

Skalering sikrer, at alle numeriske egenskaber har samme skala, hvilket forbedrer modellens ydeevne:

# Example: Scaling features
from sklearn.preprocessing import MinMaxScaler

scaler = MinMaxScaler()
values = [[10], [20], [30]]
scaled_values = scaler.fit_transform(values)
print(scaled_values)

Udvælgelse af egenskaber indebærer at vælge de mest relevante egenskaber til modellen. Almindelige teknikker omfatter:

• Filtermetoder: Udvælgelse af egenskaber baseret på statistiske mål som korrelation.
• Wrapper-metoder: Brug af algoritmer som Recursive Feature Elimination (RFE).
• Embedded-metoder: Udvælgelse af egenskaber under modeltræningen, f.eks. Lasso-regression.

Stærkt korrelerede egenskaber kan være overflødige. Brug Pandas til at beregne korrelationer:

# Example: Correlation-based feature selection
import pandas as pd

data = {'Feature1': [1, 2, 3], 'Feature2': [2, 4, 6], 'Feature3': [1, 1, 1]}
df = pd.DataFrame(data)
print(df.corr())

RFE er en wrapper-metode, der iterativt fjerner de mindst vigtige egenskaber:

# Example: RFE
from sklearn.feature_selection import RFE
from sklearn.linear_model import LogisticRegression

X = [[1, 2, 3], [4, 5, 6], [7, 8, 9]]
y = [0, 1, 0]
model = LogisticRegression()
rfe = RFE(model, n_features_to_select=2)
rfe.fit(X, y)
print("Selected Features:", rfe.support_)

Træbaserede modeller som Random Forests giver scorer for egenskabernes betydning:

# Example: Feature importance
from sklearn.ensemble import RandomForestClassifier

X = [[1, 2, 3], [4, 5, 6], [7, 8, 9]]
y = [0, 1, 0]
model = RandomForestClassifier()
model.fit(X, y)
print("Feature Importances:", model.feature_importances_)

Her er nogle fejl, du bør undgå:

• At oprette for mange egenskaber, hvilket kan føre til overtilpasning.
• At ignorere behovet for skalering i afstandsbaserede algoritmer.
• At bruge stærkt korrelerede egenskaber, hvilket skaber redundans.

I denne lektion har du lært:

• Betydningen af udvikling og udvælgelse af egenskaber i maskinlæring.
• Teknikker til at oprette nye egenskaber og skalere numeriske egenskaber.
• Sådan udvælger du relevante egenskaber ved hjælp af metoder som RFE og træbaserede modeller.
• Almindelige fejl, du bør undgå under udvikling af egenskaber.

Godt gået! Lad os gå videre til næste emne.