0Pricing
AI Agents · Ders

Aracılar için Mavi-Yeşil ve Kanarya Dağıtımları

Yeni istemleri ve modelleri trafiğin %5'ine dağıtın, ölçümleri izleyin ve ardından kapsamı artırın; hiçbir zaman her şeyi birden dağıtmayın.

Aracılar için Mavi-Yeşil ve Kanarya Dağıtımları, CoddyKit'te ücretsiz bir AI Agents dersidir. Bu, 4 dersinin 4. dersidir. Aşağıdan dersin tamamını ücretsiz okuyabilir, sonra tarayıcıda yerleşik kod editörü ve 7/24 yapay zeka koçu ile uygulamalı olarak pratik yapabilirsin. Bu, AI Agents öğrenme yolunun bir parçasıdır ve ilerlemeniz web ve CoddyKit uygulaması arasında senkronize olur. AI Agents kursu toplamda 4 dersten oluşur.

Bu dersin bazı bölümleri henüz çevrilmemiş olup İngilizce olarak gösterilmektedir.

Aracıları Dağıtmak Farklıdır

Geleneksel kod dağıtımları belirlenebilirdir — birim testinin başarılı olması değişikliğin güvenli olduğu anlamına gelir. LLM aracısı dağıtımları böyle değildir — aynı kodla bile istemi veya modeli değiştirmek kaliteyi fark edilmesi zor bir şekilde düşürebilir.

Gerilemeleri erkenden tespit etmek için tasarlanmış dağıtım stratejilerini kullanın.

Mavi-Yeşil Dağıtımlar

Birbirinin aynısı iki ortam:

  • Mavi — mevcut üretim ortamı
  • Yeşil — yeni sürüm

Yeşil ortamı test ettikten sonra trafiği tek adımda %0 -> %100 arasında değiştirin.

Kanarya Dağıtımları

Trafiği kademeli olarak yeni sürüme kaydırın:

  1. %5 -> ölçümleri izleyin
  2. %20 -> izleyin
  3. %50
  4. %100

Ölçümler kötüleşirse herhangi bir adımda geri alın.

Neleri İzlemeli?

  • Hata oranı
  • p95 gecikmesi
  • İstek başına maliyet
  • Kullanıcı geri bildirimi sinyalleri (olumlu/olumsuz oy oranı)
  • Canlı trafik gölge kümesindeki değerlendirme başarı oranı

Routing With a Feature Flag

import random

def pick_agent_version(user_id):
    if launchdarkly.variation('use-v2', user_id, default=False):
        return v2
    if random.random() < canary_pct:
        return v2
    return v1

# Roll canary_pct from 0 to 1.0 gradually.

Kiracı Bazında Yayına Alma

B2B SaaS'ta her kiracıyı sırayla yayına alın — önce şirket içi kullanıcılar, sonra güvenilir müşteriler, ardından herkes:

if user.org_id in EARLY_ACCESS_ORGS:
    return v2
return v1

Gölge Modu

Yeni sürümü EŞZAMANLI çalıştırın ancak çıktısını sunmayın:

v1_result = run_v1(query)
async def shadow():
    v2_result = await run_v2(query)
    log_compare(v1_result, v2_result)
asyncio.create_task(shadow())
return v1_result

Üretim Trafiğini Yeniden Oynatma

Üretim sorgularını bir arabellekte yakalayın; yeni sürümde her gece yeniden oynatın. Yayına almadan önce yanıt kalitesini karşılaştırın.

A/B Testleri

Uzun süreli kalite deneyleri için trafiği rastgele bölün ve ölçümleri haftalar boyunca istatistiksel olarak karşılaştırın.

İstem Sürümleme

İstemlere kod gibi davranın — bir sürümü sabitleyin, modeliyle yan yana yayınlayın ve bir bayrak aracılığıyla kullanıma sunun:

PROMPTS = {
    'qa-v3': '...',
    'qa-v4': '...'
}
active = 'qa-v4' if feature_flag_on() else 'qa-v3'

Model Sürümünü Sabitleme

Sağlayıcıların varsayılan modellerini güncellemesinin davranışı gece boyunca sessizce değiştirmemesi için model sürümünü (gpt-4o-2024-08-06) sabitleyin.

Otomatik Geri Alma

Bir ölçüm bir eşiği aşarsa kanarya sürümünü otomatik olarak %0'a geri çekin ve uyarı verin:

if p95_latency_now > 1.5 * p95_latency_baseline:
    flag.set('canary_pct', 0)
    alert('Auto-rollback triggered')

Her Sürümü Belgeleyin

Her sürüm notunda şunlar yer almalıdır:

  • Nelerin değiştiği (istem, model, bilgi getirme)
  • Önceki/sonraki değerlendirme sonuçları
  • Kanarya zaman çizelgesi
  • Geri alınıp alınmadığı

Kanarya Neden Kullanılır?

Aracılar için tek adımlı sürümler yerine neden kanarya dağıtımları kullanılmalıdır?

Özet

Trafiği özellik bayrağıyla yönlendirin, %5 -> %100 arasında kademeli olarak artırın, hata / gecikme / maliyet / geri bildirim ölçümlerini izleyin ve gerekirse hızla geri alın. Güven kazanmak için gölge modu ve yeniden oynatma ekleyin.

Sıkça Sorulan Sorular

“Aracılar için Mavi-Yeşil ve Kanarya Dağıtımları” dersi ücretsiz mi?

Evet — “Aracılar için Mavi-Yeşil ve Kanarya Dağıtımları” dersin tüm metni burada web'de ücretsiz olarak okunabilir. Etkileşimli olarak pratik yapmak (yerleşik kod editörü ve 7/24 yapay zeka koçu) ve AI Agents kursunun geri kalanını açmak için CoddyKit PRO'ya yükselt. AI Agents kursu toplamda 4 dersten oluşur.

“Aracılar için Mavi-Yeşil ve Kanarya Dağıtımları” dersinde ne öğreneceğim?

Yeni istemleri ve modelleri trafiğin %5'ine dağıtın, ölçümleri izleyin ve ardından kapsamı artırın; hiçbir zaman her şeyi birden dağıtmayın. AI Agents ile uygulamalı kodu tarayıcıda doğrudan çalıştırarak pratik yaparsın ve 7/24 yapay zeka koçu dersi çalışırken sorularını yanıtlar.

AI Agents öğrenmeye başlamak için deneyim gerekli mi?

Önceden deneyim gerekmez. CoddyKit'te AI Agents, başlangıçtan ileri seviyeye kadar yapılandırıldığı için buradan başlayabilir veya başından başlayıp kendi hızında ilerleme yapabilirsin. Bu, 4 dersinin 4. dersidir.

“Aracılar için Mavi-Yeşil ve Kanarya Dağıtımları” dersi ne kadar sürer?

Çoğu CoddyKit dersi yaklaşık 5–10 dakika sürer. Her biri kısa ve etkileşimli olduğu için sabit ilerleme yaparsın ve web ile uygulama arasında tam olarak bıraktığın yerden devam edebilirsin.

Bu AI Agents dersinde kod yazıp çalıştırabilir miyim?

Evet. Her AI Agents dersi yerleşik bir kod editörü içerir, bu sayede tarayıcıda gerçek kod yazıp çalıştırabilir ve anlık yapay zeka geri bildirimi alırsın — yerel kurulum gerekli değildir.

Bu kursun tüm dersleri

  1. Aracıları API Arkasında Sunma
  2. Eşzamansız İş Akışları ve Arka Plan İşleri
  3. Hız Sınırlama ve Kota Yönetimi
  4. Aracılar için Mavi-Yeşil ve Kanarya Dağıtımları
← AI Agents Sayfasına Dön