Tambahkan Pemeriksaan Kesiapan /health
Beri tahu orkestrator saat layanan Anda siap melayani.
Tambahkan Pemeriksaan Kesiapan /health adalah pelajaran MLOps Academy gratis di CoddyKit. Ini adalah pelajaran 4 dari 4. Kamu bisa membaca pelajaran lengkapnya di bawah secara gratis — lalu praktikkan langsung di browser dengan editor kode bawaan dan tutor AI 24/7. Ini adalah bagian dari jalur belajar MLOps Academy, dan progresmu tersinkronisasi di web dan aplikasi CoddyKit. Kursus MLOps Academy mencakup 4 pelajaran total.
Bagaimana Klaster Mengetahuinya?
Orkestrator seperti Kubernetes memerlukan cara untuk bertanya kepada layanan Anda: apakah layanan masih hidup, dan apakah sudah siap menerima lalu lintas? Endpoint health menjawabnya. 🩺
Liveness vs Readiness
Liveness menanyakan apakah proses sedang berjalan. Readiness menanyakan apakah proses benar-benar sudah dapat melayani permintaan. Keduanya adalah dua pertanyaan yang berbeda.
Rute Health Sederhana
Pemeriksaan paling sederhana adalah GET /health yang mengembalikan ok. Jika proses dapat memberikan respons, setidaknya proses tersebut masih hidup.
@app.get("/health")
def health():
return {"status": "ok"}Readiness Membutuhkan Model
Untuk ML, masih hidup saja tidak cukup. Pemeriksaan readiness yang sebenarnya memastikan model selesai dimuat sebelum Anda menerima lalu lintas prediksi.
Periksa Model yang Sudah Dimuat
Anda memeriksa app.state untuk melihat apakah model tersedia. Jika nilainya masih None, layanan belum siap.
ready = app.state.model is not NoneTandai Belum Siap dengan 503
Saat model belum dimuat, kembalikan status 503 agar orkestrator menahan lalu lintas sampai Anda siap.
from fastapi import HTTPException
raise HTTPException(status_code=503)Satukan Semuanya
Rute /ready memeriksa model dan mengembalikan ready atau memunculkan 503. Pemeriksaan ini tetap cepat dan tidak melakukan pekerjaan berat.
@app.get("/ready")
def ready(req: Request):
if req.app.state.model is None:
raise HTTPException(503)
return {"ready": True}Hubungkan Probe
Di Kubernetes, arahkan readinessProbe ke /ready dan livenessProbe ke /health. Platform akan memeriksanya secara berkala.
Jaga Pemeriksaan Tetap Ringan
Probe sering dijalankan, jadi pemeriksaan health harus murah. Jangan pernah menjalankan inferensi model sungguhan atau mengakses basis data yang lambat di dalamnya.
Penerapan Mulus Tanpa Waktu Henti
Pemeriksaan readiness memungkinkan pembaruan bergulir: pod baru hanya menerima lalu lintas setelah ready, sehingga pengguna tidak pernah mengakses instans yang baru dimulai sebagian. 🚦
Mengapa Ini Penting
Endpoint health dan readiness menjadikan layanan model Anda warga yang baik di klaster mana pun, serta memungkinkan penskalaan, mulai ulang, dan penerapan yang aman. ✅
Pemeriksaan Singkat
Model Anda masih dimuat dan probe readiness mengakses /ready. Apa yang seharusnya dikembalikan endpoint tersebut?
Rangkuman
Anda memisahkan liveness dari readiness, mengembalikan 503 sampai model dimuat, dan menghubungkan probe untuk penerapan yang aman. Layanan Anda siap untuk klaster! 🙌
Pertanyaan yang Sering Diajukan
Apakah pelajaran “Tambahkan Pemeriksaan Kesiapan /health” gratis?
Ya — teks lengkap “Tambahkan Pemeriksaan Kesiapan /health” gratis dibaca di sini di web. Untuk praktiknya secara interaktif (editor kode bawaan dan tutor AI 24/7) dan buka sisa kursus MLOps Academy, upgrade ke CoddyKit PRO. Kursus MLOps Academy mencakup 4 pelajaran total.
Apa yang akan aku pelajari di “Tambahkan Pemeriksaan Kesiapan /health”?
Beri tahu orkestrator saat layanan Anda siap melayani. Kamu berlatih MLOps Academy dengan kode praktik yang langsung kamu jalankan di browser, dan tutor AI 24/7 menjawab pertanyaanmu saat kamu mengerjakan pelajaran ini.
Apakah aku perlu pengalaman untuk memulai MLOps Academy?
Tidak diperlukan pengalaman sebelumnya. MLOps Academy di CoddyKit dirancang untuk pemula hingga pelajar tingkat lanjut, jadi kamu bisa memulai di sini atau dari awal dan belajar sesuai kecepatan kamu sendiri. Ini adalah pelajaran 4 dari 4.
Berapa lama pelajaran “Tambahkan Pemeriksaan Kesiapan /health” memakan waktu?
Sebagian besar pelajaran CoddyKit memakan waktu sekitar 5–10 menit. Setiap pelajaran ringkas dan interaktif, jadi kamu membuat kemajuan stabil dan melanjutkan dari tempat kamu tinggalkan di web dan aplikasi.
Bisakah aku menulis dan menjalankan kode dalam pelajaran MLOps Academy ini?
Ya. Setiap pelajaran MLOps Academy menyertakan editor kode bawaan, jadi kamu menulis dan menjalankan kode nyata langsung di browser dan mendapatkan umpan balik AI instan — tidak diperlukan penyiapan lokal.
Semua pelajaran dalam kursus ini
- Endpoint /predict Pertama Anda
- Validasi Permintaan dengan Pydantic
- Muat Model Sekali Saat Startup
- Tambahkan Pemeriksaan Kesiapan /health