Resource InferenceService
Nyatakan penerapan model dalam satu manifes.
Resource InferenceService adalah pelajaran MLOps Academy gratis di CoddyKit. Ini adalah pelajaran 1 dari 4. Kamu bisa membaca pelajaran lengkapnya di bawah secara gratis — lalu praktikkan langsung di browser dengan editor kode bawaan dan tutor AI 24/7. Ini adalah bagian dari jalur belajar MLOps Academy, dan progresmu tersinkronisasi di web dan aplikasi CoddyKit. Kursus MLOps Academy mencakup 4 pelajaran total.
Kenali KServe
KServe mengubah model yang telah dilatih menjadi titik akhir produksi di Kubernetes. Anda menjelaskan hal yang diinginkan, lalu KServe menangani penyajian, penskalaan, dan peruteannya untuk Anda. KServe adalah lapisan penyajian Anda. 🚀
Satu Sumber Daya untuk Mengatur Semuanya
Alih-alih menulis deployment dan layanan mentah secara manual, Anda membuat satu sumber daya khusus. InferenceService adalah satu objek yang mendefinisikan seluruh pengaturan penyajian Anda.
Ini Hanya YAML
Anda mendeklarasikan InferenceService dalam manifes YAML kecil, lalu menerapkannya dengan kubectl. KServe membaca manifes tersebut dan membangun semua komponen di bawahnya.
apiVersion: serving.kserve.io/v1beta1
kind: InferenceService
metadata:
name: sklearn-irisBlok Predictor
Inti spesifikasi tersebut adalah predictor, yang menjelaskan cara memuat dan menjalankan model Anda. Bagian ini menunjuk KServe ke model dan waktu proses yang harus menyajikannya.
spec:
predictor:
model:
modelFormat:
name: sklearn
storageUri: gs://kfserving-examples/models/sklearn/1.0/modelLokasi Model Anda
storageUri memberi tahu KServe tempat mengambil model, misalnya bucket GCS atau S3. KServe mengunduhnya ke dalam kontainer penyajian saat memulai.
Format Model Memilih Waktu Proses
Kolom modelFormat, seperti sklearn atau pytorch, memungkinkan KServe memilih waktu proses penyajian yang sesuai secara otomatis. Anda tidak memerlukan kode server khusus untuk kerangka kerja umum.
Terapkan Seperti Sumber Daya Lain
Anda mengirim manifes ke klaster dengan perintah kubectl biasa. KServe melihat objek baru tersebut dan mulai menyelaraskannya menjadi layanan yang berjalan. kubectl apply memulai prosesnya.
kubectl apply -f sklearn-iris.yamlPantau hingga Siap
Setelah menerapkannya, periksa status hingga layanan melaporkan READY. Kolom READY berubah menjadi True setelah model dimuat dan menerima lalu lintas.
kubectl get inferenceservice sklearn-irisAnda Mendapatkan URL
InferenceService yang siap menyediakan URL stabil untuk prediksi. Klien mengirim permintaan ke sana, lalu KServe merutekannya ke model Anda di balik layar.
Mengirim Prediksi
Anda mengirim input sebagai JSON dengan POST ke jalur predict pada URL tersebut. KServe meneruskannya ke model dan mengembalikan prediction di isi respons.
curl -X POST $URL/v1/models/sklearn-iris:predict \
-d '{"instances": [[5.1, 3.5, 1.4, 0.2]]}'Transformer dan Explainer Juga
Selain predictor, spesifikasi dapat menambahkan transformer untuk pemrosesan sebelum dan sesudah, serta explainer untuk memperoleh wawasan. Keduanya bersifat opsional dan dirangkai secara otomatis.
Pemeriksaan Singkat
Anda ingin KServe menyajikan sebuah model. Objek tunggal apa yang Anda deklarasikan?
Ringkasan
Anda telah mempelajari bahwa InferenceService adalah sumber daya deklaratif tunggal milik KServe. Tetapkan predictor dengan storageUri dan format, terapkan, lalu dapatkan URL prediksi yang siap digunakan. Kerja bagus! 🎉
Belajar Python dengan tutor AI — gratis
Tulis dan jalankan kode asli di browser kamu, dapatkan bantuan instan dari tutor AI 24/7, dan lanjutkan di mana kamu tinggalkan di web atau aplikasi.
- Kursus
- 30
- Pelajaran
- 120
Pertanyaan yang Sering Diajukan
Apakah pelajaran “Resource InferenceService” gratis?
Ya — teks lengkap “Resource InferenceService” gratis dibaca di sini di web. Untuk praktiknya secara interaktif (editor kode bawaan dan tutor AI 24/7) dan buka sisa kursus MLOps Academy, upgrade ke CoddyKit PRO. Kursus MLOps Academy mencakup 4 pelajaran total.
Apa yang akan aku pelajari di “Resource InferenceService”?
Nyatakan penerapan model dalam satu manifes. Kamu berlatih MLOps Academy dengan kode praktik yang langsung kamu jalankan di browser, dan tutor AI 24/7 menjawab pertanyaanmu saat kamu mengerjakan pelajaran ini.
Apakah aku perlu pengalaman untuk memulai MLOps Academy?
Tidak diperlukan pengalaman sebelumnya. MLOps Academy di CoddyKit dirancang untuk pemula hingga pelajar tingkat lanjut, jadi kamu bisa memulai di sini atau dari awal dan belajar sesuai kecepatan kamu sendiri. Ini adalah pelajaran 1 dari 4.
Berapa lama pelajaran “Resource InferenceService” memakan waktu?
Sebagian besar pelajaran CoddyKit memakan waktu sekitar 5–10 menit. Setiap pelajaran ringkas dan interaktif, jadi kamu membuat kemajuan stabil dan melanjutkan dari tempat kamu tinggalkan di web dan aplikasi.
Bisakah aku menulis dan menjalankan kode dalam pelajaran MLOps Academy ini?
Ya. Setiap pelajaran MLOps Academy menyertakan editor kode bawaan, jadi kamu menulis dan menjalankan kode nyata langsung di browser dan mendapatkan umpan balik AI instan — tidak diperlukan penyiapan lokal.
Semua pelajaran dalam kursus ini
- Resource InferenceService
- Skalakan hingga Nol dan Aktifkan Kembali
- Tulis Predictor Kustom
- KServe vs Seldon Core