Learn AI with Python · 课时

相关性与协方差

Q: 「相关性与协方差」这节课中我会学到什么？

学习 Pearson/Spearman 相关性和协方差矩阵，并在机器学习语境下解读相关性。 你通过在浏览器中直接运行的动手代码来练习 Learn AI with Python，全天候 AI 导师会在你学习这节课的过程中回答你的问题。

学习 Pearson/Spearman 相关性和协方差矩阵，并在机器学习语境下解读相关性。

相关性与协方差 是 CoddyKit 上的免费 Learn AI with Python 课时。这是第 4 节课，共 4 节。你可以在下方免费阅读本课时的完整内容 — 然后在浏览器中使用内置代码编辑器和全天候 AI 导师进行实践。这是 Learn AI with Python 学习路径的一部分，你的进度在网页和 CoddyKit 应用中同步。 Learn AI with Python 课程共包含 4 节课。

衡量变量之间的关系

协方差和相关性量化两个变量如何共同变化。它们是特征选择、投资组合理论和探索性分析的基础。

协方差

当变量共同上升时，协方差为正；当一个变量上升而另一个下降时，协方差为负。其大小取决于单位，因此原始协方差很难解释。

import numpy as np
x = np.array([1, 2, 3, 4, 5])
y = np.array([2, 4, 5, 4, 6])
print(np.cov(x, y, ddof=1))   # 2x2 covariance matrix

协方差矩阵

np.cov 返回一个矩阵：对角线上的元素是方差，非对角线上的元素是变量对之间的协方差。它可以推广到多个变量，并且是 PCA 的基础。

data = np.array([[1, 2, 3], [2, 4, 5], [3, 6, 7]], dtype=float)
print(np.cov(data.T))   # 3x3 covariance matrix of the columns

解读相关性

+1 表示完美的正线性关系，-1 表示完美的负线性关系，0 表示没有 LINEAR 关系。接近 0 的值仍可能隐藏很强的非线性模式。

在 pandas 中计算相关性

df.corr() 一次性计算所有数值列之间的两两相关性，是快速扫描数据集关系的最便捷方法。

import pandas as pd
df = pd.DataFrame({"a": [1,2,3,4,5], "b": [2,4,5,4,6], "c": [9,7,6,5,3]})
print(df.corr())   # Pearson by default

皮尔逊与斯皮尔曼的比较

皮尔逊测量原始值之间的 LINEAR 关联。斯皮尔曼基于 RANKS，因此能够捕捉任意单调关系，并且不易受异常值影响。

from scipy import stats
x = np.array([1, 2, 3, 4, 100])
y = np.array([1, 2, 3, 4, 5])
print(stats.pearsonr(x, y).statistic)    # distorted by outlier
print(stats.spearmanr(x, y).statistic)   # 1.0 (perfectly monotonic)

选择方法

df.corr(method="spearman")可将数据分析库切换为基于秩的相关性计算。存在异常值或非线性但单调的关系时，优先使用斯皮尔曼；数据干净且呈线性时，使用皮尔逊。

print(df.corr(method="spearman"))

虚假相关

变量足够多时，有些变量会纯粹因为偶然而产生相关性。冰淇淋销量与溺水事件存在相关性，二者都是由夏季高温驱动的，并不是彼此导致的。请对意料之外的相关性保持怀疑。

使用热力图进行可视化

相关性热力图可以直观地呈现模式。高度相关的特征对可能存在冗余，在建模前可以考虑将其移除。

# import seaborn as sns
# sns.heatmap(df.corr(), annot=True, cmap="coolwarm")

快速检查

请测试您对相关性的理解。

回顾

常见问题解答