/health 준비 상태 확인 추가하기
서비스가 요청을 처리할 준비가 된 시점을 오케스트레이터에 알려 주세요.
/health 준비 상태 확인 추가하기은(는) CoddyKit의 무료 MLOps Academy 강의입니다. 이것은 4개 중 4번째 강의입니다. 아래에서 전체 강의를 무료로 읽을 수 있으며, 내장 코드 에디터와 24/7 AI 튜터와 함께 브라우저에서 직접 실습할 수 있습니다. 이 강의는 MLOps Academy 학습 경로의 일부이며, 진행 상황이 웹과 CoddyKit 앱에 동기화됩니다. MLOps Academy 강의에는 총 4개의 강의가 포함되어 있습니다.
클러스터는 어떻게 알까요?
Kubernetes와 같은 오케스트레이터는 서비스가 살아 있는지, 트래픽을 받을 준비가 되었는지 확인할 방법이 필요합니다. health 엔드포인트가 이에 답합니다. 🩺
활성 상태와 준비 상태
liveness는 프로세스가 실행 중인지 묻습니다. readiness는 실제로 아직 요청을 처리할 수 있는지 묻습니다. 서로 다른 두 질문입니다.
간단한 상태 확인 경로
가장 간단한 확인 방법은 ok를 반환하는 GET /health입니다. 프로세스가 응답할 수만 있다면 최소한 살아 있는 상태입니다.
@app.get("/health")
def health():
return {"status": "ok"}준비 상태에는 모델이 필요합니다
머신러닝에서는 살아 있는 것만으로 충분하지 않습니다. 실제 readiness 확인은 예측 트래픽을 받기 전에 모델 로드가 끝났는지 확인합니다.
로드된 모델 확인하기
app.state를 확인해 모델이 있는지 살펴봅니다. 아직 None이면 서비스가 준비되지 않은 상태입니다.
ready = app.state.model is not None503으로 준비되지 않음 알리기
모델이 로드되지 않았을 때는 503 상태를 반환합니다. 그러면 오케스트레이터가 서비스가 준비될 때까지 트래픽을 보내지 않습니다.
from fastapi import HTTPException
raise HTTPException(status_code=503)함께 구성하기
/ready 경로가 모델을 확인하고 ready를 반환하거나 503을 발생시킵니다. 이 확인 작업은 빠르고 무거운 작업을 수행하지 않아야 합니다.
@app.get("/ready")
def ready(req: Request):
if req.app.state.model is None:
raise HTTPException(503)
return {"ready": True}프로브 연결하기
Kubernetes에서 /ready에는 readinessProbe를, /health에는 livenessProbe를 지정합니다. 플랫폼이 일정에 따라 두 경로를 조회합니다.
가벼운 확인 유지하기
프로브는 자주 실행되므로 상태 확인은 저렴해야 합니다. 그 안에서 실제 모델 추론을 실행하거나 느린 데이터베이스에 접근하지 마십시오.
다운타임 없는 배포 순조롭게 진행하기
준비 상태 확인은 순차적 업데이트를 가능하게 합니다. 새 파드는 ready 상태가 된 후에만 트래픽을 받으므로 사용자가 시작 중인 인스턴스에 연결되지 않습니다. 🚦
이것이 중요한 이유
상태 및 준비 상태 엔드포인트는 모델 서비스를 모든 클러스터에서 좋은 구성원으로 만들어 안전한 확장, 재시작, 배포를 가능하게 합니다. ✅
빠른 확인
모델이 아직 로드 중인데 준비 상태 프로브가 /ready를 호출했습니다. 엔드포인트는 무엇을 반환해야 할까요?
복습
liveness와 readiness를 분리하고, 모델이 로드될 때까지 503을 반환하며, 안전한 배포를 위해 프로브를 연결했습니다. 이제 서비스가 클러스터에서 사용할 준비를 마쳤습니다! 🙌
AI 튜터와 함께 Python을(를) 배우세요 — 무료
브라우저에서 실제 코드를 작성하고 실행하며, 24/7 AI 튜터로부터 즉각적인 도움을 받고, 웹이나 앱에서 중단한 부분부터 계속 학습하세요.
- 코스
- 30
- 레슨
- 120
자주 묻는 질문
“/health 준비 상태 확인 추가하기” 강의는 무료인가요?
네 — “/health 준비 상태 확인 추가하기” 전체 내용을 이 웹사이트에서 무료로 읽을 수 있습니다. 인터랙티브하게 실습하려면(내장 코드 에디터와 24/7 AI 튜터), CoddyKit PRO로 업그레이드하면 MLOps Academy 강의 전체를 잠금 해제할 수 있습니다. MLOps Academy 강의에는 총 4개의 강의가 포함되어 있습니다.
“/health 준비 상태 확인 추가하기”에서 뭘 배우나요?
서비스가 요청을 처리할 준비가 된 시점을 오케스트레이터에 알려 주세요. 브라우저에서 직접 실행하는 실습 코드로 MLOps Academy을(를) 배우며, 24/7 AI 튜터가 강의를 진행하면서 질문에 답변해줍니다.
MLOps Academy을(를) 시작하는 데 경험이 필요한가요?
사전 경험은 필요하지 않습니다. CoddyKit의 MLOps Academy은(는) 초급자부터 고급 학습자까지를 위해 구성되어 있으므로, 여기서 시작하거나 처음부터 시작할 수 있으며 자신의 속도대로 진행할 수 있습니다. 이것은 4개 중 4번째 강의입니다.
“/health 준비 상태 확인 추가하기” 강의는 얼마나 걸리나요?
대부분의 CoddyKit 강의는 약 5~10분이 소요됩니다. 각 강의는 간결하고 인터랙티브하여 꾸준한 진행이 가능하며, 웹과 앱에서 중단한 부분부터 바로 시작할 수 있습니다.
이 MLOps Academy 강의에서 코드를 작성하고 실행할 수 있나요?
네. 모든 MLOps Academy 강의에는 내장 코드 에디터가 포함되어 있으므로, 브라우저에서 바로 실제 코드를 작성하고 실행한 후 즉시 AI 피드백을 받을 수 있습니다 — 로컬 설정이 필요 없습니다.
이 강의의 모든 강의
- 첫 /predict 엔드포인트 만들기
- Pydantic으로 요청 검증하기
- 시작 시 모델 한 번만 불러오기
- /health 준비 상태 확인 추가하기