特征工程与选择
探索增强模型预测能力的技术
特征工程与选择 是 CoddyKit 上的免费 Python For Kids 课时。 这是第 4 节课，共 6 节。 你可以在下方免费阅读本课时的完整内容 — 然后在浏览器中使用内置代码编辑器和全天候 AI 导师进行实践。 这是 Python For Kids 学习路径的一部分，你的进度在网页和 CoddyKit 应用中同步。 Python For Kids 课程共包含 6 节课。
特征工程与特征选择
特征工程和特征选择是构建有效机器学习模型的关键步骤。这些过程包括创建新特征并选择最相关的特征，以提升模型性能。
在本课中，您将学习特征工程和特征选择技术，以提高预测准确率。
什么是特征工程
特征工程是指从原始数据中创建新特征，使机器学习模型更加有效。示例包括：
- 从时间戳中提取日期、月份或小时等基于时间的特征。
- 将多个特征组合成一个新特征。
- 缩放数值特征，以统一其取值范围。
创建新特征
让我们根据现有数据创建新特征：
# Example: Creating new features
import pandas as pd
data = {'Timestamp': ['2025-01-01 12:00:00', '2025-01-02 15:30:00']}
df = pd.DataFrame(data)
df['Hour'] = pd.to_datetime(df['Timestamp']).dt.hour
df['Day'] = pd.to_datetime(df['Timestamp']).dt.day
print(df)缩放特征
缩放可以确保所有数值特征处于相同的尺度，从而提升模型性能：
# Example: Scaling features
from sklearn.preprocessing import MinMaxScaler
scaler = MinMaxScaler()
values = [[10], [20], [30]]
scaled_values = scaler.fit_transform(values)
print(scaled_values)特征选择
特征选择包括为模型选取最相关的特征。常见技术包括：
- 过滤法：根据相关性等统计指标选择特征。
- 封装法：使用递归特征消除（RFE）等算法。
- 嵌入法：在模型训练期间选择特征，例如套索回归。
基于相关性的特征选择
高度相关的特征可能存在冗余。使用 Pandas 计算相关性：
# Example: Correlation-based feature selection
import pandas as pd
data = {'Feature1': [1, 2, 3], 'Feature2': [2, 4, 6], 'Feature3': [1, 1, 1]}
df = pd.DataFrame(data)
print(df.corr())递归特征消除（RFE）
RFE 是一种封装方法，会迭代地移除重要性最低的特征：
# Example: RFE
from sklearn.feature_selection import RFE
from sklearn.linear_model import LogisticRegression
X = [[1, 2, 3], [4, 5, 6], [7, 8, 9]]
y = [0, 1, 0]
model = LogisticRegression()
rfe = RFE(model, n_features_to_select=2)
rfe.fit(X, y)
print("Selected Features:", rfe.support_)使用基于树的模型评估特征重要性
Random Forests 等基于树的模型会提供特征重要性分数：
# Example: Feature importance
from sklearn.ensemble import RandomForestClassifier
X = [[1, 2, 3], [4, 5, 6], [7, 8, 9]]
y = [0, 1, 0]
model = RandomForestClassifier()
model.fit(X, y)
print("Feature Importances:", model.feature_importances_)特征工程中的常见错误
以下是需要避免的一些错误：
- 创建过多特征，可能导致过拟合。
- 忽略基于距离的算法对缩放的需求。
- 使用高度相关的特征，造成冗余。
我们学到了什么
在本课中，您学习了：
- 特征工程和特征选择在机器学习中的重要性。
- 创建新特征和缩放数值特征的技术。
- 如何使用 RFE 和基于树的模型等方法选择相关特征。
- 特征工程中需要避免的常见错误。
做得很好！让我们进入下一个主题。
常见问题解答
「特征工程与选择」课时是免费的吗？
是的 — 「特征工程与选择」的完整文本可在网页上免费阅读。要进行交互式练习（内置代码编辑器和全天候 AI 导师）并解锁 Python For Kids 课程的其余内容，请升级到 CoddyKit PRO。 Python For Kids 课程共包含 6 节课。
「特征工程与选择」这节课中我会学到什么？
探索增强模型预测能力的技术 你通过在浏览器中直接运行的动手代码来练习 Python For Kids，全天候 AI 导师会在你学习这节课的过程中回答你的问题。
学习 Python For Kids 需要有经验吗？
无需任何先前经验。CoddyKit 上的 Python For Kids 课程适合初学者到高级学习者，你可以从这里开始或从头开始，按照自己的节奏学习。 这是第 4 节课，共 6 节。
「特征工程与选择」课时需要多长时间？
大多数 CoddyKit 课程大约需要 5–10 分钟。每节课都很精短且互动，所以你能稳步进步，并在网页和应用中从离开的地方继续。
我能在这节 Python For Kids 课中编写并运行代码吗？
能。每节 Python For Kids 课都包含内置代码编辑器，你可以在浏览器中直接编写并运行真实代码，并获得即时 AI 反馈 — 无需本地设置。