MLOps Academy · Ders

InferenceService Kaynağı

Bir model dağıtımını tek bir bildirimde tanımlayın.

InferenceService Kaynağı, CoddyKit'te ücretsiz bir MLOps Academy dersidir. Bu, 4 dersinin 1. dersidir. Aşağıdan dersin tamamını ücretsiz okuyabilir, sonra tarayıcıda yerleşik kod editörü ve 7/24 yapay zeka koçu ile uygulamalı olarak pratik yapabilirsin. Bu, MLOps Academy öğrenme yolunun bir parçasıdır ve ilerlemeniz web ve CoddyKit uygulaması arasında senkronize olur. MLOps Academy kursu toplamda 4 dersten oluşur.

Bu dersin bazı bölümleri henüz çevrilmemiş olup İngilizce olarak gösterilmektedir.

Meet KServe

KServe turns a trained model into a production endpoint on Kubernetes. You describe what you want, and it handles serving, scaling, and routing for you. KServe is your serving layer. 🚀

One Resource to Rule Them

Instead of writing raw Deployments and Services by hand, you create a single custom resource. The InferenceService is the one object that defines your whole serving setup.

It Is Just YAML

You declare an InferenceService in a small YAML manifest, then apply it with kubectl. KServe reads that manifest and builds everything underneath.

apiVersion: serving.kserve.io/v1beta1
kind: InferenceService
metadata:
  name: sklearn-iris

The Predictor Block

The core of the spec is the predictor, which says how to load and run your model. It points KServe at the model and the runtime that should serve it.

spec:
  predictor:
    model:
      modelFormat:
        name: sklearn
      storageUri: gs://kfserving-examples/models/sklearn/1.0/model

Where Your Model Lives

The storageUri tells KServe where to pull the model from, like a GCS or S3 bucket. KServe downloads it into the serving container at startup.

Model Format Picks the Runtime

The modelFormat field, such as sklearn or pytorch, lets KServe choose a matching serving runtime automatically. No custom server code needed for common frameworks.

Apply It Like Any Resource

You ship the manifest to the cluster with a normal kubectl command. KServe sees the new object and starts reconciling it into a running service. kubectl apply kicks it off.

kubectl apply -f sklearn-iris.yaml

Watch It Become Ready

After applying, you check status until the service reports READY. The READY column flips to True once the model is loaded and accepting traffic.

kubectl get inferenceservice sklearn-iris

You Get a URL

A ready InferenceService exposes a stable URL for predictions. Clients send requests there, and KServe routes them to your model behind the scenes.

Sending a Prediction

You POST your input as JSON to the predict path of that URL. KServe forwards it to the model and returns the prediction in the response body.

curl -X POST $URL/v1/models/sklearn-iris:predict \
  -d '{"instances": [[5.1, 3.5, 1.4, 0.2]]}'

Transformer and Explainer Too

Beyond predictor, the spec can add a transformer for pre and post processing and an explainer for insight. Each is optional and chains automatically.

Quick Check

You want KServe to serve a model. Which single object do you declare?

Recap

You learned that the InferenceService is KServe's single declarative resource. Set a predictor with a storageUri and format, apply it, and get a ready prediction URL. Nice work! 🎉

Sıkça Sorulan Sorular

“InferenceService Kaynağı” dersi ücretsiz mi?

Evet — “InferenceService Kaynağı” dersin tüm metni burada web'de ücretsiz olarak okunabilir. Etkileşimli olarak pratik yapmak (yerleşik kod editörü ve 7/24 yapay zeka koçu) ve MLOps Academy kursunun geri kalanını açmak için CoddyKit PRO'ya yükselt. MLOps Academy kursu toplamda 4 dersten oluşur.

“InferenceService Kaynağı” dersinde ne öğreneceğim?

Bir model dağıtımını tek bir bildirimde tanımlayın. MLOps Academy ile uygulamalı kodu tarayıcıda doğrudan çalıştırarak pratik yaparsın ve 7/24 yapay zeka koçu dersi çalışırken sorularını yanıtlar.

MLOps Academy öğrenmeye başlamak için deneyim gerekli mi?

Önceden deneyim gerekmez. CoddyKit'te MLOps Academy, başlangıçtan ileri seviyeye kadar yapılandırıldığı için buradan başlayabilir veya başından başlayıp kendi hızında ilerleme yapabilirsin. Bu, 4 dersinin 1. dersidir.

“InferenceService Kaynağı” dersi ne kadar sürer?

Çoğu CoddyKit dersi yaklaşık 5–10 dakika sürer. Her biri kısa ve etkileşimli olduğu için sabit ilerleme yaparsın ve web ile uygulama arasında tam olarak bıraktığın yerden devam edebilirsin.

Bu MLOps Academy dersinde kod yazıp çalıştırabilir miyim?

Evet. Her MLOps Academy dersi yerleşik bir kod editörü içerir, bu sayede tarayıcıda gerçek kod yazıp çalıştırabilir ve anlık yapay zeka geri bildirimi alırsın — yerel kurulum gerekli değildir.

Bu kursun tüm dersleri

← MLOps Academy Sayfasına Dön