Learn AI with Python · 강의

Hugging Face Accelerate를 활용한 효율적인 학습

accelerate.Accelerator, 장치에 종속되지 않는 학습, 그래디언트 누적, DeepSpeed 통합을 다룹니다.

Hugging Face Accelerate를 활용한 효율적인 학습은(는) CoddyKit의 무료 Learn AI with Python 강의입니다. 이것은 4개 중 4번째 강의입니다. 아래에서 전체 강의를 무료로 읽을 수 있으며, 내장 코드 에디터와 24/7 AI 튜터와 함께 브라우저에서 직접 실습할 수 있습니다. 이 강의는 Learn AI with Python 학습 경로의 일부이며, 진행 상황이 웹과 CoddyKit 앱에 동기화됩니다. Learn AI with Python 강의에는 총 4개의 강의가 포함되어 있습니다.

보일러플레이트 문제

장치 배치, DDP 설정, 혼합 정밀도를 직접 작성하면 코드가 장황하고 오류가 발생하기 쉽습니다. Hugging Face Accelerate는 이러한 보일러플레이트를 없애 줍니다. 동일한 스크립트를 코드 변경 없이 CPU, GPU 하나, 여러 GPU 또는 TPU에서 실행할 수 있습니다.

Accelerator 객체

이 라이브러리의 핵심은 Accelerator입니다. 스크립트의 맨 위에서 하나를 생성하면 환경을 감지하고 장치, 분산 설정, 정밀도를 대신 관리합니다.

from accelerate import Accelerator

accelerator = Accelerator()
device = accelerator.device

객체 준비

accelerator.prepare는 모델, 최적화기, 데이터 로더를 받아 현재 설정에 맞게 연결된 버전을 반환합니다. 즉, 올바른 장치로 이동되고, 필요한 경우 DDP로 감싸지며, 데이터 로더가 프로세스 전체에 걸쳐 분할됩니다.

model, optimizer, dataloader = accelerator.prepare(
    model, optimizer, dataloader
)

prepare가 하는 일

내부적으로 prepare는 수동으로 처리해야 했던 작업을 수행합니다. 장치 전송, DDP 래핑, 분산 샘플링, 혼합 정밀도 연결을 처리합니다. 한 번의 호출로 수십 줄을 대신할 수 있습니다.

수동 .to(device) 없음

준비된 데이터 로더가 이미 올바른 장치에 있는 배치를 제공하므로 수동으로 호출하던 x.to(device)를 제거할 수 있습니다. 동일한 반복문이 어디서나 작동합니다.

for batch in dataloader:
    inputs, labels = batch   # already on device
    outputs = model(inputs)
    loss = loss_fn(outputs, labels)

accelerator.backward

loss.backward() 대신 accelerator.backward(loss)를 호출하십시오. 그러면 분산 학습과 혼합 정밀도 학습에 적합한 경로를 자동으로 사용하며, 그래디언트 스케일링도 포함됩니다.

optimizer.zero_grad()
accelerator.backward(loss)
optimizer.step()

완전한 학습 반복문

전체 Accelerate 반복문은 놀라울 정도로 깔끔하며 장치에 종속되지 않습니다.

accelerator = Accelerator()
model, optimizer, dataloader = accelerator.prepare(model, optimizer, dataloader)

for epoch in range(epochs):
    for batch in dataloader:
        inputs, labels = batch
        outputs = model(inputs)
        loss = loss_fn(outputs, labels)
        optimizer.zero_grad()
        accelerator.backward(loss)
        optimizer.step()

구성으로 혼합 정밀도 설정

코드를 수정하지 않고 Accelerator를 생성할 때 또는 CLI 구성으로 FP16/BF16을 설정해 활성화할 수 있습니다. 그러면 Accelerate가 autocast와 그래디언트 스케일링을 대신 관리합니다.

accelerator = Accelerator(mixed_precision="fp16")

unwrap_model로 저장하기

prepare 후에는 모델이 DDP로 래핑되어 있을 수 있습니다. 저장하기 전에 accelerator.unwrap_model(model)을 호출해 일반적인 기반 모델을 가져오면 체크포인트가 깔끔하고 이식성이 좋아집니다.

unwrapped = accelerator.unwrap_model(model)
accelerator.save(unwrapped.state_dict(), "model.pt")

여러 장치에서 실행하기

accelerate launch 명령으로 동일한 스크립트를 실행하면, 구성(프로세스 수, 머신 수, 정밀도)을 읽고 프로세스를 시작하며 단일 GPU, 다중 GPU, 다중 노드 환경을 투명하게 처리합니다.

accelerate config        # one-time interactive setup
accelerate launch train.py

Accelerate를 사용하는 이유

Accelerate는 투명한 다중 장치 처리를 제공합니다. 깔끔한 반복문 하나를 작성하면 코드를 다시 작성하지 않고도 노트북 CPU에서 다중 노드 GPU 클러스터까지 확장할 수 있습니다. 이미 배운 DDP 및 AMP 개념을 기반으로 하되, 내부 연결 작업은 감춰 줍니다.

빠른 점검

Accelerate에 대한 지식을 점검해 보세요.

복습

Hugging Face Accelerate를 사용한 효율적인 학습을 배웠습니다.

Accelerator()가 환경을 감지하고 관리합니다
acc.prepare(model, optimizer, dataloader)가 현재 장치에 맞게 모든 요소를 연결합니다
acc.backward(loss)가 분산 및 혼합 정밀도 역전파를 처리합니다
acc.unwrap_model이 저장하기에 적합한 깔끔한 모델을 제공합니다
하나의 스크립트로 CPU에서 다중 노드 GPU까지 투명하게 확장할 수 있습니다

자주 묻는 질문

“Hugging Face Accelerate를 활용한 효율적인 학습” 강의는 무료인가요?

네 — “Hugging Face Accelerate를 활용한 효율적인 학습” 전체 내용을 이 웹사이트에서 무료로 읽을 수 있습니다. 인터랙티브하게 실습하려면(내장 코드 에디터와 24/7 AI 튜터), CoddyKit PRO로 업그레이드하면 Learn AI with Python 강의 전체를 잠금 해제할 수 있습니다. Learn AI with Python 강의에는 총 4개의 강의가 포함되어 있습니다.

“Hugging Face Accelerate를 활용한 효율적인 학습”에서 뭘 배우나요?

accelerate.Accelerator, 장치에 종속되지 않는 학습, 그래디언트 누적, DeepSpeed 통합을 다룹니다. 브라우저에서 직접 실행하는 실습 코드로 Learn AI with Python을(를) 배우며, 24/7 AI 튜터가 강의를 진행하면서 질문에 답변해줍니다.

Learn AI with Python을(를) 시작하는 데 경험이 필요한가요?

사전 경험은 필요하지 않습니다. CoddyKit의 Learn AI with Python은(는) 초급자부터 고급 학습자까지를 위해 구성되어 있으므로, 여기서 시작하거나 처음부터 시작할 수 있으며 자신의 속도대로 진행할 수 있습니다. 이것은 4개 중 4번째 강의입니다.

“Hugging Face Accelerate를 활용한 효율적인 학습” 강의는 얼마나 걸리나요?

대부분의 CoddyKit 강의는 약 5~10분이 소요됩니다. 각 강의는 간결하고 인터랙티브하여 꾸준한 진행이 가능하며, 웹과 앱에서 중단한 부분부터 바로 시작할 수 있습니다.

이 Learn AI with Python 강의에서 코드를 작성하고 실행할 수 있나요?

네. 모든 Learn AI with Python 강의에는 내장 코드 에디터가 포함되어 있으므로, 브라우저에서 바로 실제 코드를 작성하고 실행한 후 즉시 AI 피드백을 받을 수 있습니다 — 로컬 설정이 필요 없습니다.

이 강의의 모든 강의

← Learn AI with Python(으)로 돌아가기