Применение PCA в Python

В этом уроке мы применим метод главных компонент (PCA), чтобы уменьшить размерность набора данных. Это поможет упростить набор данных, сохранив ключевую информацию.

Обзор набора данных

Мы будем использовать набор данных Iris, содержащий измерения различных видов цветов:

• Признаки: Длина чашелистика, ширина чашелистика, длина лепестка и ширина лепестка.
• Целевая переменная: Вид (Setosa, Versicolor, Virginica).

Шаг 1: импорт библиотек и набора данных

Начнём с импорта необходимых библиотек и загрузки набора данных:

import pandas as pd
from sklearn.datasets import load_iris

# Load Iris dataset
data = load_iris()
X = pd.DataFrame(data.data, columns=data.feature_names)
y = data.target
print(X.head())

Шаг 2: стандартизация данных

PCA чувствителен к масштабу данных, поэтому мы стандартизируем их с помощью StandardScaler:

from sklearn.preprocessing import StandardScaler

# Standardize the data
scaler = StandardScaler()
X_scaled = scaler.fit_transform(X)

Шаг 3: применение PCA

Мы применим PCA, чтобы свести набор данных к двум главным компонентам:

from sklearn.decomposition import PCA

# Apply PCA
pca = PCA(n_components=2)
X_pca = pca.fit_transform(X_scaled)
print(f"Explained Variance Ratio: {pca.explained_variance_ratio_}")

Шаг 4: визуализация результатов PCA

Мы можем визуализировать преобразованный набор данных в двумерном пространстве, чтобы увидеть, как группируются виды:

import matplotlib.pyplot as plt

# Scatter plot of PCA results
plt.scatter(X_pca[:, 0], X_pca[:, 1], c=y, cmap='viridis')
plt.xlabel('Principal Component 1')
plt.ylabel('Principal Component 2')
plt.title('PCA Results')
plt.colorbar(label='Species')
plt.show()

Шаг 5: интерпретация результатов PCA

График PCA показывает, как данные распределены в пространстве пониженной размерности. Точки, относящиеся к одному виду, обычно группируются вместе, что указывает на эффективную кластеризацию.

Преимущества PCA

PCA имеет несколько преимуществ:

• Уменьшает размерность данных, упрощая их визуализацию.
• Удаляет шум и избыточные признаки.
• Повышает эффективность вычислений для больших наборов данных.

Проблемы PCA

К некоторым ограничениям PCA относятся:

• Утрата интерпретируемости преобразованных признаков.
• Чувствительность к масштабу признаков.
• Возможная неспособность уловить сложные нелинейные взаимосвязи в данных.

Итоги и следующие шаги

В этом уроке мы:

• Применили PCA к набору данных Iris для снижения размерности.
• Визуализировали результаты и увидели кластеризацию видов в двумерном пространстве.
• Обсудили преимущества и проблемы PCA.

Далее мы изучим продвинутые концепции глубокого обучения, начиная с искусственных нейронных сетей.