차원 축소 기초

차원 축소는 핵심 정보를 유지하면서 데이터세트의 입력 변수(특성) 수를 줄이는 과정입니다. 차원 축소를 사용하면 데이터를 단순화하고 계산 효율성을 높일 수 있습니다.

차원 축소가 중요한 이유

고차원 데이터세트는 다음과 같은 문제를 일으킬 수 있습니다.

• 과적합: 모델이 패턴 대신 잡음을 학습할 수 있습니다.
• 복잡성 증가: 처리에 많은 계산 비용이 필요합니다.
• 시각화의 어려움: 차원이 많으면 데이터를 해석하기 어렵습니다.

차원 축소 방법

주요 접근 방식은 두 가지입니다:

• 특성 선택: 가장 중요한 특성을 선택합니다(예: 상관관계 또는 중요도 점수 사용).
• 특성 추출: 기존 특성을 결합하여 새로운 특성을 만듭니다(예: 주성분 분석).

주성분 분석(PCA)

PCA는 널리 사용되는 차원 축소 기법입니다. 데이터의 분산을 최대화하는 주성분이라는 새로운 직교 특징 집합으로 데이터를 변환합니다.

PCA는 잡음 제거, 시각화 및 특징 추출에 널리 사용됩니다.

t-분포 확률적 이웃 임베딩(t-SNE)

t-SNE는 시각화에 중점을 둔 또 다른 차원 축소 방법입니다. 데이터 포인트의 구조를 유지하면서 고차원 데이터를 2차원 또는 3차원 공간으로 매핑합니다.

t-SNE는 특히 복잡한 데이터세트의 군집을 이해하는 데 효과적입니다.

PCA와 t-SNE 비교

PCA:

• 분산 보존에 중점을 둡니다.
• 잡음 감소와 특성 추출에 유용합니다.

t-SNE:

• 시각화를 위한 구조 보존에 중점을 둡니다.
• PCA보다 계산량이 많습니다.

차원 축소의 과제

일반적인 과제는 다음과 같습니다.

• 특징을 변환하면 해석 가능성이 떨어집니다.
• 최적의 주성분 개수를 결정해야 합니다.
• 대규모 데이터 세트에서는 계산 비용이 많이 듭니다.

차원 축소의 활용

차원 축소는 다음과 같은 분야에서 널리 사용됩니다:

• 이미지 처리: 압축을 위해 이미지의 차원을 줄입니다.
• 텍스트 분석: 고차원 텍스트 데이터를 단순화합니다.
• 데이터 시각화: 고차원 데이터를 2D 또는 3D 공간에 매핑합니다.

요약 및 다음 단계

이 수업에서는 다음 내용을 다뤘습니다:

• 차원 축소의 기본 개념
• 주요 기법: PCA와 t-SNE
• 차원 축소의 어려움과 활용 분야

다음에는 파이썬의 데이터 세트에 PCA를 적용하여 실제 작동 방식을 이해합니다.