MLOps Academy · درس

التوسع إلى الصفر ثم العودة

وفّر التكلفة باستخدام التوسع التلقائي المستند إلى الطلبات.

الدرس 2 من 413 خطوة

التوسع إلى الصفر ثم العودة درس مجاني في MLOps Academy على CoddyKit. هذا هو الدرس 2 من أصل 4. يمكنك قراءة الدرس كاملاً أدناه مجاناً — ثم تمرن عليه مباشرة في المتصفح باستخدام محرر أكواد مدمج ومدرس ذكاء اصطناعي متاح 24/7. هذا الدرس جزء من مسار التعلم في MLOps Academy، وتقدمك يتزامن عبر الويب وتطبيق CoddyKit. تتضمن دورة MLOps Academy 4 دروس في المجموع.

النماذج الخاملة تكلّف المال

تظل حاوية النموذج التي لا تستقبل حركة مرور تستهلك CPU والذاكرة وتزيد فاتورة السحابة. يستطيع KServe تقليص خدمة خاملة بالكامل. ويوقف Scale to zero هذا الهدر. 💸

مدعوم بواسطة Knative

يعتمد الوضع serverless في KServe على Knative، الذي يراقب حجم الطلبات ويضبط عدد النسخ. وعند توقف حركة المرور، يمكنه إزالة جميع Pods الخاصة بالخدمة.

التوسّع التلقائي المدفوع بالطلبات

يتتبع عدد النسخ حجم الطلب، لا جدولًا زمنيًا ثابتًا. فعندما تزداد الطلبات، يضيف KServe Pods، وعندما تتراجع يقلل العدد. هذا هو التوسّع التلقائي request-driven عمليًا.

ضبط minReplicas على صفر

للسماح بالتقليص الكامل، اضبط minReplicas على 0 في مواصفة predictor. وعند السماح بالصفر، تنخفض الخدمة الخاملة إلى عدم وجود Pods قيد التشغيل إطلاقًا.

spec:
  predictor:
    minReplicas: 0
    model:
      modelFormat:
        name: sklearn

هدف التزامن

يستهدف مقياس التوسّع عددًا محددًا من الطلبات الجارية لكل Pod. ويحدد هدف concurrency مدى سرعة إضافة KServe للنسخ عند ارتفاع الحمل.

metadata:
  annotations:
    autoscaling.knative.dev/target: "10"

التوسّع مجددًا

عند وصول طلب إلى خدمة تم تقليصها إلى الصفر، يشغّل Knative Pod عند الطلب. وتستأنف حركة المرور فور جاهزية Pod، لذا يكون scale up تلقائيًا.

تكلفة البدء البارد

يجب أن ينتظر الطلب الأول بعد الوصول إلى الصفر بدء تشغيل Pod وتحميل النموذج. ويُسمى هذا التأخير cold start، وهو المقابل الرئيسي للتوسّع إلى الصفر. ⏱️

متى يكون الوصول إلى الصفر مناسبًا

يكون التوسّع إلى الصفر مفيدًا لأحمال العمل المتقطعة أو النادرة التي يهيمن فيها وقت الخمول. أما في حركة المرور المستقرة والحساسة لزمن الاستجابة، فقد لا يستحق أثر cold start ذلك.

أبقِ نسخة واحدة جاهزة بدلًا من ذلك

إذا كانت عمليات البدء البارد تؤثر سلبًا، فاضبط minReplicas على 1 كي يبقى Pod واحد قيد التشغيل دائمًا. وبذلك تستبدل جزءًا بسيطًا من التكلفة بوجود نسخة warm جاهزة للتقديم.

spec:
  predictor:
    minReplicas: 1

ضع حدًا أعلى

يمكنك أيضًا تقييد النمو باستخدام maxReplicas حتى لا تتجاوز زيادة مفاجئة في حركة المرور ميزانية عنقودك. فهذا يضع سقفًا لمقياس التوسّع التلقائي.

spec:
  predictor:
    minReplicas: 0
    maxReplicas: 5

راقب التوسّع

يمكنك تأكيد السلوك بمراقبة ظهور Pods واختفائها مع حركة المرور. ينخفض count الخاص بـ Pod إلى الصفر عند الخمول، ثم يرتفع مجددًا عند وصول الطلبات.

kubectl get pods -l serving.kserve.io/inferenceservice=sklearn-iris -w

تحقق سريع

ما الجانب السلبي الرئيسي للسماح بتوسّع الخدمة إلى الصفر؟

أجب عليها في الدرس التفاعلي

مراجعة

رأيت كيف يسمح minReplicas: 0 لـ KServe بتقليص النماذج الخاملة إلى الصفر ثم إعادتها عند الطلب. ضع حدًا باستخدام maxReplicas، وأبقِ نسخة واحدة جاهزة إذا كانت عمليات البدء البارد تؤثر سلبًا. تقدم رائع! 🎉

البدء مجانًا

تعلم Python مع معلم ذكاء اصطناعي — مجانًا

اكتب وقم بتشغيل أكوادك الفعلية في المتصفح، واحصل على مساعدة فورية من معلم ذكاء اصطناعي متاح 24/7، واستمر من حيث توقفت على الويب أو في التطبيق.

الدورات: 30
الدروس: 120

ابدأ التعلم مجانًا عرض الدورة الكاملة

الأسئلة الشائعة

هل درس «التوسع إلى الصفر ثم العودة» مجاني؟

نعم — نص درس «التوسع إلى الصفر ثم العودة» كامل متاح مجاناً هنا على الويب. لتمرينه بشكل تفاعلي (محرر أكواد مدمج ومدرس ذكاء اصطناعي متاح 24/7) وفتح باقي دورة MLOps Academy، انتقل إلى CoddyKit PRO. تتضمن دورة MLOps Academy 4 دروس في المجموع.

ماذا ستتعلم في «التوسع إلى الصفر ثم العودة»؟

وفّر التكلفة باستخدام التوسع التلقائي المستند إلى الطلبات. تتمرن على MLOps Academy مع أكواد عملية تشغلها مباشرة في المتصفح، ومدرس ذكاء اصطناعي متاح 24/7 يجيب على أسئلتك أثناء عملك.

هل أحتاج إلى خبرة سابقة لأبدأ MLOps Academy؟

لا تُشترط خبرة سابقة. MLOps Academy على CoddyKit منظم للمبتدئين حتى المتقدمين، لذا يمكنك البدء من هنا أو من البداية والتقدم بسرعتك الخاصة. هذا هو الدرس 2 من أصل 4.

كم من الوقت يستغرق درس «التوسع إلى الصفر ثم العودة»؟

معظم دروس CoddyKit تستغرق حوالي 5–10 دقائق. كل منها موجز وتفاعلي، لذا تحرز تقدماً مستمراً وتستأنف من حيث توقفت عبر الويب والتطبيق.

هل يمكنني كتابة وتشغيل أكواد في درس MLOps Academy هذا؟

نعم. كل درس في MLOps Academy يتضمن محرر أكواد مدمج، لذا تكتب وتشغل أكواداً حقيقية مباشرة في متصفحك وتحصل على تعليقات فورية من الذكاء الاصطناعي — بدون إعداد محلي.

جميع الدروس في هذه الدورة

← العودة إلى MLOps Academy