Применение PCA в Python

В этом уроке мы применим метод главных компонент (PCA), чтобы уменьшить размерность набора данных. Это поможет упростить набор данных с сохранением ключевой информации.

Обзор набора данных

Мы будем использовать набор данных Iris, содержащий измерения цветов различных видов:

• Признаки: длина и ширина чашелистика, длина и ширина лепестка.
• Целевая переменная: вид (Setosa, Versicolor, Virginica).

Шаг 1: импорт библиотек и набора данных

Начнём с импорта необходимых библиотек и загрузки набора данных:

import pandas as pd
from sklearn.datasets import load_iris

# Load Iris dataset
data = load_iris()
X = pd.DataFrame(data.data, columns=data.feature_names)
y = data.target
print(X.head())

Шаг 2: Стандартизация данных

PCA чувствителен к масштабу данных, поэтому мы стандартизируем их с помощью StandardScaler:

from sklearn.preprocessing import StandardScaler

# Standardize the data
scaler = StandardScaler()
X_scaled = scaler.fit_transform(X)

Шаг 3: Применение PCA

Мы применяем PCA, чтобы сократить набор данных до 2 главных компонент:

from sklearn.decomposition import PCA

# Apply PCA
pca = PCA(n_components=2)
X_pca = pca.fit_transform(X_scaled)
print(f"Explained Variance Ratio: {pca.explained_variance_ratio_}")

Шаг 4: Визуализация результатов PCA

Мы можем визуализировать преобразованный набор данных в двумерном пространстве, чтобы увидеть, как сгруппированы виды:

import matplotlib.pyplot as plt

# Scatter plot of PCA results
plt.scatter(X_pca[:, 0], X_pca[:, 1], c=y, cmap='viridis')
plt.xlabel('Principal Component 1')
plt.ylabel('Principal Component 2')
plt.title('PCA Results')
plt.colorbar(label='Species')
plt.show()

Шаг 5: Интерпретация результатов PCA

Диаграмма PCA показывает, как данные распределены в пространстве сниженной размерности. Точки, относящиеся к одному виду, как правило, группируются вместе, что указывает на эффективную кластеризацию.

Преимущества PCA

PCA даёт несколько преимуществ:

• Уменьшает размерность данных, упрощая их визуализацию.
• Удаляет шум и избыточные признаки.
• Повышает вычислительную эффективность при работе с большими наборами данных.

Ограничения PCA

К некоторым ограничениям PCA относятся:

• потеря интерпретируемости преобразованных признаков;
• чувствительность к масштабированию признаков;
• возможность не учитывать сложные нелинейные взаимосвязи в данных.

Итоги и следующие шаги

В этом уроке мы:

• применили PCA к набору данных Iris для снижения размерности;
• визуализировали результаты и увидели кластеризацию видов в двумерном пространстве;
• обсудили преимущества и ограничения PCA.

Далее мы изучим продвинутые концепции глубокого обучения, начав с искусственных нейронных сетей.