차원 축소 기초

차원 축소는 핵심 정보를 유지하면서 데이터 세트의 입력 변수(특징) 수를 줄이는 과정입니다. 이를 통해 데이터를 단순화하고 계산 효율성을 높일 수 있습니다.

차원 축소가 중요한 이유

고차원 데이터 세트는 다음과 같은 문제를 일으킬 수 있습니다.

• 과적합: 모델이 패턴 대신 잡음을 학습할 수 있습니다.
• 복잡성 증가: 처리하는 데 계산 비용이 많이 듭니다.
• 시각화의 어려움: 차원이 많은 데이터를 해석하기 어렵습니다.

차원 축소 방법

주요 접근 방식은 두 가지입니다.

• 특징 선택: 가장 중요한 특징을 선택합니다(예: 상관관계 또는 중요도 점수 사용).
• 특징 추출: 기존 특징을 결합하여 새로운 특징을 만듭니다(예: 주성분 분석).

주성분 분석(PCA)

PCA는 널리 사용되는 차원 축소 기법입니다. 데이터를 주성분이라고 하는 새로운 직교 특징 집합으로 변환하며, 이 주성분은 분산을 최대화합니다.

PCA는 잡음 제거, 시각화 및 특징 추출에 널리 사용됩니다.

t-분포 확률적 이웃 임베딩(t-SNE)

t-SNE는 시각화에 중점을 둔 또 다른 차원 축소 방법입니다. 데이터 점의 구조를 유지하면서 고차원 데이터를 2차원 또는 3차원 공간에 매핑합니다.

t-SNE는 복잡한 데이터 세트에서 군집을 이해하는 데 특히 효과적입니다.

PCA와 t-SNE 비교

PCA:

• 분산 보존에 중점을 둡니다.
• 잡음 제거와 특징 추출에 유용합니다.

t-SNE:

• 시각화를 위한 구조 보존에 중점을 둡니다.
• PCA보다 계산량이 많습니다.

차원 축소의 과제

일반적인 과제는 다음과 같습니다.

• 특징을 변환할 때 해석 가능성이 떨어집니다.
• 최적의 성분 수를 결정해야 합니다.
• 대규모 데이터 세트에서는 계산 비용이 발생합니다.

차원 축소의 활용

차원 축소는 다음과 같은 분야에서 널리 사용됩니다.

• 이미지 처리: 압축을 위해 이미지의 차원을 줄입니다.
• 텍스트 분석: 고차원 텍스트 데이터를 단순화합니다.
• 데이터 시각화: 고차원 데이터를 2차원 또는 3차원 공간에 매핑합니다.

요약 및 다음 단계

이 수업에서는 다음 내용을 다루었습니다.

• 차원 축소의 기초
• 핵심 기법인 PCA와 t-SNE
• 차원 축소의 과제와 활용

다음에는 파이썬에서 데이터 세트에 PCA를 적용하여 실제 작동 방식을 이해하겠습니다.