Learn AI with Python · 강의

DistributedDataParallel(DDP)

프로세스 그룹, dist.init_process_group, DistributedSampler, 그래디언트 동기화를 다룹니다.

DistributedDataParallel(DDP)은(는) CoddyKit의 무료 Learn AI with Python 강의입니다. 이것은 4개 중 2번째 강의입니다. 아래에서 전체 강의를 무료로 읽을 수 있으며, 내장 코드 에디터와 24/7 AI 튜터와 함께 브라우저에서 직접 실습할 수 있습니다. 이 강의는 Learn AI with Python 학습 경로의 일부이며, 진행 상황이 웹과 CoddyKit 앱에 동기화됩니다. Learn AI with Python 강의에는 총 4개의 강의가 포함되어 있습니다.

DDP란 무엇인가

DistributedDataParallel (DDP)은 PyTorch에서 데이터 병렬 학습을 수행하는 고성능 방식입니다. GPU마다 하나의 프로세스를 실행하고, 각 프로세스가 전체 모델 복제본을 보유하며 그래디언트를 효율적으로 동기화합니다. DDP는 GPU와 여러 머신 전체에서 거의 선형적으로 확장됩니다.

프로세스 그룹

DDP는 프로세스 그룹을 통해 프로세스를 조정합니다. 각 프로세스에는 고유한 rank가 할당되고 전체 프로세스 수를 알고 있습니다. 프로세스는 백엔드를 통해 통신하며, NVIDIA GPU에서는 해당 백엔드가 nccl입니다.

init_process_group

모든 프로세스는 그룹에 참여하는 것으로 시작합니다. backend="nccl"과 함께 dist.init_process_group을 호출하면 GPU 간 통신이 설정됩니다.

import torch.distributed as dist
import os

dist.init_process_group(backend="nccl")
rank = dist.get_rank()
world_size = dist.get_world_size()

장치 고정

각 프로세스는 하나의 GPU를 소유해야 합니다. 로컬 rank를 사용해 장치를 설정하면 프로세스 0은 cuda:0을, 프로세스 1은 cuda:1을 사용하는 식으로 할당됩니다.

local_rank = int(os.environ["LOCAL_RANK"])
torch.cuda.set_device(local_rank)
device = torch.device("cuda", local_rank)

모델 감싸기

모델을 해당 GPU로 옮긴 다음 device_ids=[local_rank]와 함께 DDP로 감싸십시오. DDP는 역전파 중 그래디언트를 동기화하는 후크를 등록합니다.

from torch.nn.parallel import DistributedDataParallel as DDP

model = MyModel().to(device)
model = DDP(model, device_ids=[local_rank])

DistributedSampler

각 프로세스는 겹치는 부분 없이 데이터의 서로 다른 분할을 봐야 합니다. DistributedSampler는 데이터 세트를 rank별로 분할하므로, 모든 분할을 합치면 각 에포크마다 전체 데이터 세트를 정확히 한 번 포함하게 됩니다.

from torch.utils.data import DataLoader
from torch.utils.data.distributed import DistributedSampler

sampler = DistributedSampler(dataset)
loader = DataLoader(dataset, batch_size=32, sampler=sampler)

에포크별 셔플

각 에포크의 시작 부분에서 sampler.set_epoch(epoch)를 호출하십시오. 그러면 모든 프로세스에서 셔플 시드가 일관되게 다시 설정되어 모든 rank가 같은 방식으로 셔플하고 분할이 서로 겹치지 않게 됩니다.

for epoch in range(epochs):
    sampler.set_epoch(epoch)
    for x, y in loader:
        ...

그래디언트 전체 집계

loss.backward() 중에 DDP는 전체 집계를 수행합니다. 모든 프로세스가 자신의 그래디언트를 보내고 평균화된 결과를 받아 모든 복제본이 동일한 업데이트를 적용하게 됩니다. 전체 집계는 역전파와 겹쳐 수행되어 통신 비용을 숨깁니다.

GPU 0 병목 없음

DataParallel과 달리 DDP에는 출력을 수집하는 중앙 GPU가 없습니다. 각 프로세스가 자체 손실과 그래디언트를 계산하고, 그래디언트만 전체 집계를 통해 교환합니다. 이러한 대칭성이 DDP의 확장성이 훨씬 뛰어난 이유입니다.

torchrun으로 실행하기

torchrun은 GPU별 프로세스를 실행하고 rank 환경 변수를 설정합니다. --nproc_per_node=4는 이 노드에서 GPU마다 하나씩 총 4개의 프로세스를 시작합니다.

torchrun --nproc_per_node=4 train.py

rank 0에서만 저장하기

모든 rank가 동일한 가중치를 보유하므로, 서로 덮어쓰는 일을 피하려면 하나의 rank만 체크포인트를 기록해야 합니다. rank 확인으로 저장을 제어하십시오.

if rank == 0:
    torch.save(model.module.state_dict(), "model.pt")
dist.barrier()

빠른 확인

DDP에 대해 배운 내용을 확인해 보십시오.

복습

DistributedDataParallel을 배웠습니다:

dist.init_process_group(backend="nccl")은 프로세스 그룹에 참여합니다
DistributedSampler는 각 rank에 겹치지 않는 데이터 분할을 제공합니다
DDP(model, device_ids=[rank])는 전체 집계를 통해 그래디언트를 동기화합니다
torchrun --nproc_per_node=4로 실행합니다
rank 0에서만 저장합니다

자주 묻는 질문

“DistributedDataParallel(DDP)” 강의는 무료인가요?

네 — “DistributedDataParallel(DDP)” 전체 내용을 이 웹사이트에서 무료로 읽을 수 있습니다. 인터랙티브하게 실습하려면(내장 코드 에디터와 24/7 AI 튜터), CoddyKit PRO로 업그레이드하면 Learn AI with Python 강의 전체를 잠금 해제할 수 있습니다. Learn AI with Python 강의에는 총 4개의 강의가 포함되어 있습니다.

“DistributedDataParallel(DDP)”에서 뭘 배우나요?

프로세스 그룹, dist.init_process_group, DistributedSampler, 그래디언트 동기화를 다룹니다. 브라우저에서 직접 실행하는 실습 코드로 Learn AI with Python을(를) 배우며, 24/7 AI 튜터가 강의를 진행하면서 질문에 답변해줍니다.

Learn AI with Python을(를) 시작하는 데 경험이 필요한가요?

사전 경험은 필요하지 않습니다. CoddyKit의 Learn AI with Python은(는) 초급자부터 고급 학습자까지를 위해 구성되어 있으므로, 여기서 시작하거나 처음부터 시작할 수 있으며 자신의 속도대로 진행할 수 있습니다. 이것은 4개 중 2번째 강의입니다.

“DistributedDataParallel(DDP)” 강의는 얼마나 걸리나요?

대부분의 CoddyKit 강의는 약 5~10분이 소요됩니다. 각 강의는 간결하고 인터랙티브하여 꾸준한 진행이 가능하며, 웹과 앱에서 중단한 부분부터 바로 시작할 수 있습니다.

이 Learn AI with Python 강의에서 코드를 작성하고 실행할 수 있나요?

네. 모든 Learn AI with Python 강의에는 내장 코드 에디터가 포함되어 있으므로, 브라우저에서 바로 실제 코드를 작성하고 실행한 후 즉시 AI 피드백을 받을 수 있습니다 — 로컬 설정이 필요 없습니다.

이 강의의 모든 강의

← Learn AI with Python(으)로 돌아가기