MLOps Academy · Pelajaran

Pelancaran Canary: Hantar kepada Beberapa Pengguna Dahulu

Alihkan sebahagian kecil trafik kepada model baharu.

Pelajaran 1 daripada 413 langkah

Pelancaran Canary: Hantar kepada Beberapa Pengguna Dahulu ialah pelajaran MLOps Academy percuma di CoddyKit. Ini ialah pelajaran 1 daripada 4. Anda boleh membaca keseluruhan pelajaran di bawah secara percuma — kemudian berlatih secara praktikal dalam pelayar menggunakan penyunting kod terbina dalam dan tutor kecerdasan buatan 24/7. Pelajaran ini merupakan sebahagian daripada laluan pembelajaran MLOps Academy, dan kemajuan anda disegerakkan merentas web serta aplikasi CoddyKit. Kursus MLOps Academy merangkumi sejumlah 4 pelajaran.

Apakah Pelancaran Canary

Pelancaran canary menghantar model baharu anda kepada sebahagian kecil trafik sebenar terlebih dahulu, supaya sebarang kerosakan kekal kecil sementara anda memantaunya. 🐤

Mengapa Tidak Hantar kepada Semua Orang

Mengalihkan semua trafik kepada model baharu serentak ialah pelancaran serentak: jika model itu bermasalah, setiap pengguna akan merasainya dengan serta-merta.

Mulakan Kecil dengan Sengaja

Canary biasanya bermula sekitar 5% trafik. Jumlah itu mencukupi untuk mengumpulkan isyarat sebenar, tetapi cukup kecil sehingga model yang buruk hampir tidak menjejaskan pengguna anda.

Model Utama dan Pencabar

Model yang stabil ialah model utama; canary ialah pencabar. Kedua-duanya berjalan secara langsung serentak supaya anda boleh membandingkannya menggunakan permintaan sebenar yang sama.

Pantau Sebelum Meluaskan

Semasa canary melayani bahagiannya, anda memantau kadar ralat, kependaman dan metrik perniagaan utama bersebelahan dengan model utama.

Tingkatkan Secara Berperingkat

Jika canary kelihatan sihat, anda meningkatkan bahagiannya secara berperingkat, contohnya 5%, 25%, 50% kemudian 100%, sambil berhenti seketika untuk menyemak pada setiap peringkat.

Membahagikan Trafik

Penghala atau proksi menentukan model yang menerima setiap permintaan. Pembahagian mudah ini menghantar satu daripada setiap dua puluh panggilan kepada versi canary.

import random

def route(request, canary_pct=5):
    if random.uniform(0, 100) < canary_pct:
        return canary_model.predict(request)
    return champion_model.predict(request)

Tandakan Model yang Melayan

Catat model yang mengendalikan setiap permintaan. Tanpa tanda versi pada setiap ramalan, anda tidak dapat menentukan metrik milik model yang mana kemudian.

log.info("prediction", extra={
    "model_version": "v2-canary",
    "latency_ms": latency,
})

Pastikan Bahagian Boleh Dibandingkan

Halakan berdasarkan cincangan stabil bagi id pengguna supaya orang yang sama sentiasa menggunakan model yang sama. Pembahagian rawak bagi setiap permintaan menyukarkan perbandingan yang adil.

Hentikan dengan Cepat

Tujuan utamanya ialah menyediakan jalan keluar yang pantas. Jika canary berkelakuan buruk, anda mengurangkan trafiknya kembali kepada 0% dan pengguna tidak menyedari apa-apa.

Canary berbanding Biru-Hijau

Pendekatan biru-hijau mengekalkan dua persekitaran penuh dan bertukar antara kedua-duanya. Canary pula meningkatkan trafik secara beransur-ansur, memberikan kawalan yang lebih halus dan amaran yang lebih awal.

Semakan Ringkas

Mari kita semak idea teras di sebalik canary.

Imbas Kembali

Canary menghantar model baharu anda kepada sebahagian kecil trafik terlebih dahulu, membandingkannya dengan model utama, meningkatkannya hanya jika sihat dan berundur serta-merta jika tidak. ✅

Percuma untuk bermula

Pelajari Python dengan tutor kecerdasan buatan — percuma

Tulis dan jalankan kod sebenar dalam pelayar anda, dapatkan bantuan segera daripada tutor kecerdasan buatan yang tersedia 24/7, dan sambung semula dari tempat anda berhenti di web atau dalam aplikasi.

Kursus
30
Pelajaran
120

Soalan Lazim

Adakah pelajaran “Pelancaran Canary: Hantar kepada Beberapa Pengguna Dahulu” percuma?

Ya — teks penuh “Pelancaran Canary: Hantar kepada Beberapa Pengguna Dahulu” boleh dibaca secara percuma di web ini. Untuk berlatih secara interaktif menggunakan penyunting kod terbina dalam dan tutor kecerdasan buatan 24/7, serta membuka kunci baki kursus MLOps Academy, tingkat taraf kepada CoddyKit PRO. Kursus MLOps Academy merangkumi sejumlah 4 pelajaran.

Apakah yang akan saya pelajari dalam “Pelancaran Canary: Hantar kepada Beberapa Pengguna Dahulu”?

Alihkan sebahagian kecil trafik kepada model baharu. Anda berlatih MLOps Academy menggunakan kod praktikal yang dijalankan terus dalam pelayar, manakala tutor kecerdasan buatan 24/7 menjawab soalan anda semasa anda mengikuti pelajaran.

Adakah saya memerlukan pengalaman untuk memulakan MLOps Academy?

Tiada pengalaman terdahulu diperlukan. Pembelajaran MLOps Academy di CoddyKit disusun untuk pelajar daripada peringkat pemula hingga lanjutan, jadi anda boleh bermula di sini atau dari awal dan belajar mengikut kadar anda sendiri. Ini ialah pelajaran 1 daripada 4.

Berapa lamakah pelajaran “Pelancaran Canary: Hantar kepada Beberapa Pengguna Dahulu” diambil?

Kebanyakan pelajaran CoddyKit mengambil masa kira-kira 5–10 minit. Setiap pelajaran ringkas dan interaktif, jadi anda boleh membuat kemajuan secara berterusan dan menyambung tepat dari tempat anda berhenti di web atau aplikasi.

Bolehkah saya menulis dan menjalankan kod dalam pelajaran MLOps Academy ini?

Ya. Setiap pelajaran MLOps Academy menyertakan penyunting kod terbina dalam, jadi anda boleh menulis dan menjalankan kod sebenar terus dalam pelayar serta menerima maklum balas kecerdasan buatan serta-merta — tanpa memerlukan persediaan setempat.

Semua pelajaran dalam kursus ini

  1. Pelancaran Canary: Hantar kepada Beberapa Pengguna Dahulu
  2. Cerminkan Trafik Tanpa Kesan kepada Pengguna
  3. Tentukan Kriteria Kembali Automatik
  4. Penghantaran Berperingkat dengan Argo Rollouts
← Kembali ke MLOps Academy