0Pricing
MLOps Academy · Lektion

Die InferenceService-Ressource

Deklarieren Sie eine Modellbereitstellung in einem einzigen Manifest.

Die InferenceService-Ressource ist eine kostenlose MLOps Academy-Lektion auf CoddyKit. Dies ist Lektion 1 von 4. Du kannst die komplette Lektion unten kostenlos lesen – dann übst du sie direkt im Browser mit einem integrierten Code-Editor und einem KI-Tutor rund um die Uhr. Sie ist Teil des MLOps Academy-Lernpfads, und dein Fortschritt wird über Web und CoddyKit-App synchronisiert. Der MLOps Academy-Kurs umfasst insgesamt 4 Lektionen.

KServe kennenlernen

KServe macht aus einem trainierten Modell einen Produktionsendpunkt auf Kubernetes. Sie beschreiben, was Sie benötigen, und KServe übernimmt Serving, Skalierung und Routing für Sie. KServe ist Ihre Serving-Schicht. 🚀

Eine Ressource für alles

Anstatt Deployments und Services von Hand zu schreiben, erstellen Sie eine einzelne benutzerdefinierte Ressource. Der InferenceService ist das eine Objekt, das Ihre gesamte Serving-Konfiguration definiert.

Es ist nur YAML

Sie deklarieren einen InferenceService in einem kleinen YAML-Manifest und wenden ihn anschließend mit kubectl an. KServe liest dieses Manifest und erstellt alle zugrunde liegenden Komponenten.

apiVersion: serving.kserve.io/v1beta1
kind: InferenceService
metadata:
  name: sklearn-iris

Der Predictor-Block

Der Kern der Spezifikation ist der Predictor. Er legt fest, wie Ihr Modell geladen und ausgeführt wird, und verweist KServe auf das Modell und die Runtime, die es bereitstellen soll.

spec:
  predictor:
    model:
      modelFormat:
        name: sklearn
      storageUri: gs://kfserving-examples/models/sklearn/1.0/model

Wo Ihr Modell liegt

storageUri teilt KServe mit, woher das Modell geladen werden soll, etwa aus einem GCS- oder S3-Bucket. KServe lädt es beim Start in den Serving-Container herunter.

Das Modellformat bestimmt die Runtime

Mit dem Feld modelFormat, etwa sklearn oder pytorch, kann KServe automatisch eine passende Serving-Runtime auswählen. Für gängige Frameworks ist kein eigener Servercode erforderlich.

Wie jede Ressource anwenden

Sie übertragen das Manifest mit einem normalen kubectl-Befehl an den Cluster. KServe erkennt das neue Objekt und beginnt, es zu einem laufenden Service zu reconciliieren. kubectl apply startet diesen Vorgang.

kubectl apply -f sklearn-iris.yaml

Beobachten, wie es bereit wird

Prüfen Sie nach dem Anwenden den Status, bis der Service READY meldet. Die Spalte READY wechselt zu True, sobald das Modell geladen ist und Traffic annimmt.

kubectl get inferenceservice sklearn-iris

Sie erhalten eine URL

Ein bereiter InferenceService stellt eine stabile URL für Vorhersagen bereit. Clients senden ihre Anfragen dorthin, und KServe leitet sie im Hintergrund an Ihr Modell weiter.

Eine Vorhersage senden

Sie senden Ihre Eingabe als JSON per POST an den predict-Pfad dieser URL. KServe leitet sie an das Modell weiter und gibt die prediction im Antworttext zurück.

curl -X POST $URL/v1/models/sklearn-iris:predict \
  -d '{"instances": [[5.1, 3.5, 1.4, 0.2]]}'

Auch Transformer und Explainer

Zusätzlich zum Predictor kann die Spezifikation einen Transformer für die Vor- und Nachverarbeitung sowie einen Explainer für Einblicke enthalten. Beide sind optional und werden automatisch verkettet.

Kurze Prüfung

Sie möchten, dass KServe ein Modell bereitstellt. Welches einzelne Objekt deklarieren Sie?

Zusammenfassung

Sie haben gelernt, dass der InferenceService die einzelne deklarative Ressource von KServe ist. Legen Sie einen Predictor mit storageUri und Format fest, wenden Sie ihn an und erhalten Sie eine bereite URL für Vorhersagen. Gute Arbeit! 🎉

Häufig gestellte Fragen

Ist die Lektion „Die InferenceService-Ressource“ kostenlos?

Ja — der vollständige Text von „Die InferenceService-Ressource“ ist hier im Web kostenlos zu lesen. Um sie interaktiv zu üben (integrierter Code-Editor und 24/7 KI-Tutor) und den Rest des MLOps Academy-Kurses freizuschalten, upgrade auf CoddyKit PRO. Der MLOps Academy-Kurs umfasst insgesamt 4 Lektionen.

Was lerne ich in „Die InferenceService-Ressource“?

Deklarieren Sie eine Modellbereitstellung in einem einzigen Manifest. Du übst MLOps Academy mit praktischem Code, den du direkt im Browser ausführst, und ein 24/7 KI-Tutor beantwortet deine Fragen während du die Lektion bearbeitest.

Brauche ich Erfahrung, um MLOps Academy zu starten?

Keine Vorkenntnisse erforderlich. MLOps Academy auf CoddyKit ist für Anfänger bis fortgeschrittene Lernende strukturiert, sodass du hier starten oder von Anfang an beginnen und in deinem eigenen Tempo voranschreiten kannst. Dies ist Lektion 1 von 4.

Wie lange dauert die Lektion „Die InferenceService-Ressource“?

Die meisten CoddyKit-Lektionen dauern etwa 5–10 Minuten. Jede ist kompakt und interaktiv, sodass du stetig Fortschritte machst und genau dort weitermachst, wo du aufgehört hast – im Web und in der App.

Kann ich in dieser MLOps Academy-Lektion Code schreiben und ausführen?

Ja. Jede MLOps Academy-Lektion enthält einen integrierten Code-Editor, sodass du echten Code direkt in deinem Browser schreibst und ausführst und sofort KI-Feedback erhältst — ohne lokale Einrichtung erforderlich.

Alle Lektionen in diesem Kurs

  1. Die InferenceService-Ressource
  2. Auf null skalieren und wieder hochskalieren
  3. Einen benutzerdefinierten Predictor schreiben
  4. KServe und Seldon Core
← Zurück zu MLOps Academy