MLOps Academy · Ders

Kullanıcıları Etkilemeden Gölge Trafiği Kullanın

Canlı istekleri bir aday modele sessizce yansıtın.

2. ders / 413 adım

Kullanıcıları Etkilemeden Gölge Trafiği Kullanın, CoddyKit'te ücretsiz bir MLOps Academy dersidir. Bu, 4 dersinin 2. dersidir. Aşağıdan dersin tamamını ücretsiz okuyabilir, sonra tarayıcıda yerleşik kod editörü ve 7/24 yapay zeka koçu ile uygulamalı olarak pratik yapabilirsin. Bu, MLOps Academy öğrenme yolunun bir parçasıdır ve ilerlemeniz web ve CoddyKit uygulaması arasında senkronize olur. MLOps Academy kursu toplamda 4 dersten oluşur.

Gölge Modu Nedir

Gölge modunda aday model gerçek üretim isteklerini görür, ancak yanıtları kullanıcılara asla gösterilmez. Kenardan izler. 👀

Yansıtın, Hizmet Vermeyin

Her canlı istek gölge modeline yansıtılır. Kullanıcıların gerçekten aldığı yanıtı yine champion üretir.

Kullanıcıya Sıfır Etki

Gölge çıktısı atıldığı için ne kadar bozuk olursa olsun aday model tek bir kullanıcıya bile zarar veremez. Gölge testinin asıl çekici yanı budur.

Gerçek Verilerle Test Edin

Gölge modu, adayı karşılaşacağı gerçek üretim trafiğiyle, karmaşık uç durumlar dahil, besler. Çevrim dışı test kümeleri bu durumları çoğu zaman kaçırır.

Yansıtma Nasıl Çalışır

Aynı girdiyi her iki modele gönderin, yalnızca champion'ın yanıtını döndürün ve gölge sonucunu daha sonra kullanmak üzere saklayın. Kullanıcı yalnızca champion'ı bekler.

def handle(request):
    primary = champion.predict(request)
    shadow = candidate.predict(request)
    store_shadow(request, primary, shadow)
    return primary

Gölgeyi Kritik Yolun Dışında Çalıştırın

Gölge modeli asenkron olarak çağırın; böylece kullanıcıların hissettiği gecikmeye hiçbir zaman ekleme yapmaz. Yavaş bir gölge model gerçek yanıtları yavaşlatmamalıdır.

İki Çıktıyı Karşılaştırın

Daha sonra gölge tahminlerini champion'ın tahminleriyle hizalayarak uyuşmazlıkları bulun. Büyük farklar, aday modelin farklı davrandığı yerleri gösterir.

Çökmeleri Erken Yakalayın

Gölge çalıştırmaları, gerçek yük altında zaman aşımı, bellek kullanımında ani artış veya şema uyuşmazlığı gibi pratik sorunları, herhangi bir kullanıcı etkilenmeden önce ortaya çıkarır.

Gerçek Doğruyla Aradaki Fark

Gölge çalışma, modelin ne tahmin ettiğini gösterir; tahminin doğru olup olmadığını göstermez. Gerçek doğruluğu değerlendirmek için daha sonra yine etiketlere ihtiyacınız vardır.

Yan Etkilere Dikkat Edin

Modeliniz yazma işlemlerini, e-postaları veya ücretlendirmeleri tetikliyorsa gölge çağrıları bu işlemleri atlamalıdır. Aksi takdirde sessiz bir test, gerçek dünyada çok yüksek ses getiren etkilere yol açar.

Önce Gölge, Sonra Canary

Gölge çalışma, aday modelin güvenli biçimde çalıştığını kanıtlar; ardından canary dağıtımı, modelin iyi hizmet verdiğini kanıtlar. Birçok ekip önce gölge çalışma yapar, sonra gerçek kullanıcılarla canary dağıtımına geçer.

Kısa Kontrol

Gölge dağıtımını gerçekte tanımlayan nedir?

Özet

Gölge modu, canlı trafiği bir adaya yansıtır, adayın yanıtlarını yok sayar ve onu asıl işlem yolunun dışında çalıştırır. Böylece gerçek verilerle, kullanıcılar için hiç risk oluşturmadan test yaparsınız. ✅

Başlamak ücretsiz

Yapay zeka eğitmeniyle Python öğren — ücretsiz

Tarayıcında gerçek kod yaz ve çalıştır, 7/24 yapay zeka eğitmeninden anında yardım al; web'de ya da uygulamada kaldığın yerden devam et.

Kurslar
30
Dersler
120

Sıkça Sorulan Sorular

“Kullanıcıları Etkilemeden Gölge Trafiği Kullanın” dersi ücretsiz mi?

Evet — “Kullanıcıları Etkilemeden Gölge Trafiği Kullanın” dersin tüm metni burada web'de ücretsiz olarak okunabilir. Etkileşimli olarak pratik yapmak (yerleşik kod editörü ve 7/24 yapay zeka koçu) ve MLOps Academy kursunun geri kalanını açmak için CoddyKit PRO'ya yükselt. MLOps Academy kursu toplamda 4 dersten oluşur.

“Kullanıcıları Etkilemeden Gölge Trafiği Kullanın” dersinde ne öğreneceğim?

Canlı istekleri bir aday modele sessizce yansıtın. MLOps Academy ile uygulamalı kodu tarayıcıda doğrudan çalıştırarak pratik yaparsın ve 7/24 yapay zeka koçu dersi çalışırken sorularını yanıtlar.

MLOps Academy öğrenmeye başlamak için deneyim gerekli mi?

Önceden deneyim gerekmez. CoddyKit'te MLOps Academy, başlangıçtan ileri seviyeye kadar yapılandırıldığı için buradan başlayabilir veya başından başlayıp kendi hızında ilerleme yapabilirsin. Bu, 4 dersinin 2. dersidir.

“Kullanıcıları Etkilemeden Gölge Trafiği Kullanın” dersi ne kadar sürer?

Çoğu CoddyKit dersi yaklaşık 5–10 dakika sürer. Her biri kısa ve etkileşimli olduğu için sabit ilerleme yaparsın ve web ile uygulama arasında tam olarak bıraktığın yerden devam edebilirsin.

Bu MLOps Academy dersinde kod yazıp çalıştırabilir miyim?

Evet. Her MLOps Academy dersi yerleşik bir kod editörü içerir, bu sayede tarayıcıda gerçek kod yazıp çalıştırabilir ve anlık yapay zeka geri bildirimi alırsın — yerel kurulum gerekli değildir.

Bu kursun tüm dersleri

  1. Kanarya Dağıtımları: Önce Az Sayıda Kullanıcıya Sunun
  2. Kullanıcıları Etkilemeden Gölge Trafiği Kullanın
  3. Otomatik Geri Alma Ölçütlerini Tanımlayın
  4. Argo Rollouts ile Aşamalı Teslimat
← MLOps Academy Sayfasına Dön