MLOps Academy · 강의

0으로 축소했다가 다시 확장하기

요청 기반 자동 확장으로 비용을 절약하세요.

레슨 2/413개 단계

0으로 축소했다가 다시 확장하기은(는) CoddyKit의 무료 MLOps Academy 강의입니다. 이것은 4개 중 2번째 강의입니다. 아래에서 전체 강의를 무료로 읽을 수 있으며, 내장 코드 에디터와 24/7 AI 튜터와 함께 브라우저에서 직접 실습할 수 있습니다. 이 강의는 MLOps Academy 학습 경로의 일부이며, 진행 상황이 웹과 CoddyKit 앱에 동기화됩니다. MLOps Academy 강의에는 총 4개의 강의가 포함되어 있습니다.

유휴 모델에도 비용이 듭니다

트래픽 없이 대기 중인 모델 Pod도 CPU와 메모리를 사용하며 클라우드 비용을 발생시킵니다. KServe는 유휴 서비스를 완전히 축소할 수 있습니다. 0으로 축소하면 이러한 낭비를 막을 수 있습니다. 💸

Knative 기반으로 동작합니다

KServe의 서버리스 모드는 요청량을 감시하고 복제본을 조정하는 Knative를 기반으로 동작합니다. 트래픽이 멈추면 해당 서비스의 모든 Pod를 제거할 수 있습니다.

요청 기반 자동 확장

복제본은 고정된 일정이 아니라 수요를 따릅니다. 요청이 늘면 KServe가 Pod를 추가하고, 줄면 다시 축소합니다. 이것이 실제로 동작하는 요청 기반 자동 확장입니다.

minReplicas를 0으로 설정하기

완전히 축소하려면 예측기 사양에서 minReplicas를 0으로 설정하세요. 0을 허용하면 유휴 서비스에 실행 중인 Pod가 하나도 남지 않습니다.

spec:
  predictor:
    minReplicas: 0
    model:
      modelFormat:
        name: sklearn

동시성 목표

자동 확장기는 Pod당 처리 중인 요청 수의 목표를 설정합니다. 이 동시성 목표에 따라 부하가 발생했을 때 KServe가 복제본을 얼마나 적극적으로 추가할지 결정됩니다.

metadata:
  annotations:
    autoscaling.knative.dev/target: "10"

다시 확장하기

0으로 축소된 서비스에 요청이 도착하면 Knative가 필요에 따라 Pod를 시작합니다. Pod가 준비되는 즉시 트래픽이 재개되므로 확장은 자동으로 이루어집니다.

콜드 스타트 비용

0으로 축소된 후 처음 들어오는 요청은 Pod가 시작되고 모델을 로드할 때까지 기다려야 합니다. 이 지연이 콜드 스타트이며, 0으로 축소할 때의 주요 절충점입니다. ⏱️

0으로 축소하는 것이 적합한 경우

유휴 시간이 대부분을 차지하는 간헐적이거나 드문 작업에서는 0으로 축소하는 방식이 효과적입니다. 일정하고 지연 시간에 민감한 트래픽에서는 콜드 스타트의 불이익이 그만한 가치가 없을 수 있습니다.

대신 하나를 준비 상태로 유지하기

콜드 스타트가 문제가 된다면 minReplicas를 1로 설정하여 Pod 하나를 항상 실행 상태로 유지하세요. 약간의 비용을 지불하는 대신 즉시 제공할 수 있는 준비된 인스턴스를 확보할 수 있습니다.

spec:
  predictor:
    minReplicas: 1

최대 규모 제한하기

maxReplicas로 확장 범위의 상한을 설정하면 트래픽 급증으로 클러스터 예산이 초과되는 일을 막을 수 있습니다. 자동 확장기에 상한을 설정하는 것입니다.

spec:
  predictor:
    minReplicas: 0
    maxReplicas: 5

확장 동작 확인하기

트래픽에 따라 Pod가 나타나고 사라지는 모습을 관찰하여 동작을 확인할 수 있습니다. 유휴 상태에서는 Pod 개수가 0으로 줄고, 호출이 들어오면 다시 늘어납니다.

kubectl get pods -l serving.kserve.io/inferenceservice=sklearn-iris -w

빠른 확인

서비스를 0으로 축소하도록 허용할 때의 가장 큰 단점은 무엇인가요?

인터랙티브 레슨에서 답해보세요

정리

minReplicas: 0을 사용하면 KServe가 유휴 모델을 필요에 따라 0까지 축소했다가 다시 확장할 수 있다는 것을 확인했습니다. maxReplicas로 상한을 설정하고, 콜드 스타트가 문제가 되면 하나를 준비 상태로 유지하세요. 훌륭하게 진행하셨습니다! 🎉

무료로 시작

AI 튜터와 함께 Python을(를) 배우세요 — 무료

브라우저에서 실제 코드를 작성하고 실행하며, 24/7 AI 튜터로부터 즉각적인 도움을 받고, 웹이나 앱에서 중단한 부분부터 계속 학습하세요.

코스: 30
레슨: 120

무료로 학습 시작 전체 코스 보기

자주 묻는 질문

“0으로 축소했다가 다시 확장하기” 강의는 무료인가요?

네 — “0으로 축소했다가 다시 확장하기” 전체 내용을 이 웹사이트에서 무료로 읽을 수 있습니다. 인터랙티브하게 실습하려면(내장 코드 에디터와 24/7 AI 튜터), CoddyKit PRO로 업그레이드하면 MLOps Academy 강의 전체를 잠금 해제할 수 있습니다. MLOps Academy 강의에는 총 4개의 강의가 포함되어 있습니다.

“0으로 축소했다가 다시 확장하기”에서 뭘 배우나요?

요청 기반 자동 확장으로 비용을 절약하세요. 브라우저에서 직접 실행하는 실습 코드로 MLOps Academy을(를) 배우며, 24/7 AI 튜터가 강의를 진행하면서 질문에 답변해줍니다.

MLOps Academy을(를) 시작하는 데 경험이 필요한가요?

사전 경험은 필요하지 않습니다. CoddyKit의 MLOps Academy은(는) 초급자부터 고급 학습자까지를 위해 구성되어 있으므로, 여기서 시작하거나 처음부터 시작할 수 있으며 자신의 속도대로 진행할 수 있습니다. 이것은 4개 중 2번째 강의입니다.

“0으로 축소했다가 다시 확장하기” 강의는 얼마나 걸리나요?

대부분의 CoddyKit 강의는 약 5~10분이 소요됩니다. 각 강의는 간결하고 인터랙티브하여 꾸준한 진행이 가능하며, 웹과 앱에서 중단한 부분부터 바로 시작할 수 있습니다.

이 MLOps Academy 강의에서 코드를 작성하고 실행할 수 있나요?

네. 모든 MLOps Academy 강의에는 내장 코드 에디터가 포함되어 있으므로, 브라우저에서 바로 실제 코드를 작성하고 실행한 후 즉시 AI 피드백을 받을 수 있습니다 — 로컬 설정이 필요 없습니다.

이 강의의 모든 강의

← MLOps Academy(으)로 돌아가기