Python Academy · 课时

特征工程与选择

Q: 「特征工程与选择」这节课中我会学到什么？

了解增强模型预测能力的技术 你通过在浏览器中直接运行的动手代码来练习 Python Academy，全天候 AI 导师会在你学习这节课的过程中回答你的问题。

了解增强模型预测能力的技术

特征工程与选择 是 CoddyKit 上的免费 Python Academy 课时。这是第 4 节课，共 6 节。你可以在下方免费阅读本课时的完整内容 — 然后在浏览器中使用内置代码编辑器和全天候 AI 导师进行实践。这是 Python Academy 学习路径的一部分，你的进度在网页和 CoddyKit 应用中同步。 Python Academy 课程共包含 6 节课。

特征工程与特征选择

特征工程和特征选择是构建有效机器学习模型的关键步骤。这些过程包括创建新特征，以及选择最相关的特征来提升模型性能。

在本课中，您将学习特征工程和特征选择的相关技术，以提高预测准确率。

什么是特征工程？

特征工程是指从原始数据中创建新特征，使机器学习模型更加有效。示例包括：

从时间戳中提取日期、月份或小时等基于时间的特征。
将多个特征组合成一个新特征。
缩放数值特征，使其取值范围保持一致。

创建新特征

让我们根据现有数据创建新特征：

# Example: Creating new features
import pandas as pd

data = {'Timestamp': ['2025-01-01 12:00:00', '2025-01-02 15:30:00']}
df = pd.DataFrame(data)
df['Hour'] = pd.to_datetime(df['Timestamp']).dt.hour
df['Day'] = pd.to_datetime(df['Timestamp']).dt.day
print(df)

缩放特征

缩放可以确保所有数值特征处于相同的尺度上，从而提升模型性能：

# Example: Scaling features
from sklearn.preprocessing import MinMaxScaler

scaler = MinMaxScaler()
values = [[10], [20], [30]]
scaled_values = scaler.fit_transform(values)
print(scaled_values)

特征选择

特征选择是指为模型选取最相关的特征。常见技术包括：

过滤法：根据相关性等统计指标选择特征。
包裹法：使用递归特征消除（RFE）等算法。
嵌入法：在模型训练过程中选择特征，例如套索回归。

基于相关性的特征选择

高度相关的特征可能存在冗余。使用 Pandas 计算相关性：

# Example: Correlation-based feature selection
import pandas as pd

data = {'Feature1': [1, 2, 3], 'Feature2': [2, 4, 6], 'Feature3': [1, 1, 1]}
df = pd.DataFrame(data)
print(df.corr())

递归特征消除（RFE）

RFE 是一种包裹法，会迭代地删除重要性最低的特征：

# Example: RFE
from sklearn.feature_selection import RFE
from sklearn.linear_model import LogisticRegression

X = [[1, 2, 3], [4, 5, 6], [7, 8, 9]]
y = [0, 1, 0]
model = LogisticRegression()
rfe = RFE(model, n_features_to_select=2)
rfe.fit(X, y)
print("Selected Features:", rfe.support_)

基于树模型的特征重要性

随机森林等基于树的模型可以提供特征重要性分数：

# Example: Feature importance
from sklearn.ensemble import RandomForestClassifier

X = [[1, 2, 3], [4, 5, 6], [7, 8, 9]]
y = [0, 1, 0]
model = RandomForestClassifier()
model.fit(X, y)
print("Feature Importances:", model.feature_importances_)

特征工程中的常见错误

以下是需要避免的一些错误：

创建过多特征，这可能导致过拟合。
忽略基于距离的算法对特征缩放的需求。
使用高度相关的特征，从而造成冗余。

我们学到了什么？

在本课中，您学习了：

特征工程和特征选择在机器学习中的重要性。
创建新特征和缩放数值特征的技术。
如何使用 RFE 和基于树的模型等方法选择相关特征。
特征工程过程中需要避免的常见错误。

做得很好！让我们进入下一个主题。

常见问题解答

「特征工程与选择」课时是免费的吗？

是的 — 「特征工程与选择」的完整文本可在网页上免费阅读。要进行交互式练习（内置代码编辑器和全天候 AI 导师）并解锁 Python Academy 课程的其余内容，请升级到 CoddyKit PRO。 Python Academy 课程共包含 6 节课。

「特征工程与选择」这节课中我会学到什么？

了解增强模型预测能力的技术你通过在浏览器中直接运行的动手代码来练习 Python Academy，全天候 AI 导师会在你学习这节课的过程中回答你的问题。

学习 Python Academy 需要有经验吗？

无需任何先前经验。CoddyKit 上的 Python Academy 课程适合初学者到高级学习者，你可以从这里开始或从头开始，按照自己的节奏学习。这是第 4 节课，共 6 节。

「特征工程与选择」课时需要多长时间？

大多数 CoddyKit 课程大约需要 5–10 分钟。每节课都很精短且互动，所以你能稳步进步，并在网页和应用中从离开的地方继续。

我能在这节 Python Academy 课中编写并运行代码吗？

能。每节 Python Academy 课都包含内置代码编辑器，你可以在浏览器中直接编写并运行真实代码，并获得即时 AI 反馈 — 无需本地设置。

此课程中的所有课时

← 返回 Python Academy