0Pricing
AI Agents · Lekcja

Wdrożenia blue-green i canary dla agentów

Udostępnij nowe prompty i modele 5% ruchu, obserwuj metryki, a następnie zwiększaj udział — nigdy nie wdrażaj wszystkiego naraz.

Wdrożenia blue-green i canary dla agentów to bezpłatna lekcja AI Agents na CoddyKit. To lekcja 4 z 4. Możesz przeczytać całą lekcję poniżej za darmo — a potem ćwiczyć ją interaktywnie w przeglądarce z wbudowanym edytorem kodu i tutorem AI dostępnym 24/7. To część ścieżki edukacyjnej AI Agents, a Twój postęp synchronizuje się między webem a aplikacją CoddyKit. Kurs AI Agents zawiera 4 lekcji w sumie.

Części tej lekcji nie zostały jeszcze przetłumaczone i są wyświetlane po angielsku.

Wdrażanie agentów wygląda inaczej

Wdrożenia tradycyjnego kodu są deterministyczne — pomyślne przejście testu jednostkowego oznacza, że zmiana jest bezpieczna. Wdrożenia agentów LLM takie NIE są — nawet przy tym samym kodzie zamiana promptu lub modelu może subtelnie pogorszyć jakość.

Należy stosować strategie wdrażania zaprojektowane tak, aby wcześnie wykrywać regresje.

Wdrożenia blue-green

Dwa identyczne środowiska:

  • Blue — bieżące środowisko produkcyjne
  • Green — nowa wersja

Po przetestowaniu środowiska green należy przełączyć ruch z 0% -> 100% w jednym kroku.

Wdrożenia canary

Należy stopniowo kierować ruch do nowej wersji:

  1. 5% -> obserwacja metryk
  2. 20% -> obserwacja
  3. 50%
  4. 100%

Jeśli metryki się pogorszą, należy wycofać wdrożenie na dowolnym etapie.

Co obserwować

  • Współczynnik błędów
  • Opóźnienie p95
  • Koszt żądania
  • Sygnały z opinii użytkowników (stosunek ocen pozytywnych do negatywnych)
  • Współczynnik pomyślnych ewaluacji na zbiorze cieniowego ruchu produkcyjnego

Routing With a Feature Flag

import random

def pick_agent_version(user_id):
    if launchdarkly.variation('use-v2', user_id, default=False):
        return v2
    if random.random() < canary_pct:
        return v2
    return v1

# Roll canary_pct from 0 to 1.0 gradually.

Wdrażanie dla poszczególnych tenantów

Wdrażanie dla poszczególnych tenantów w B2B SaaS — najpierw użytkownicy wewnętrzni, potem przyjaźni klienci, a następnie wszyscy:

if user.org_id in EARLY_ACCESS_ORGS:
    return v2
return v1

Tryb cieniowy

Uruchom nową wersję RÓWNOLEGLE, ale nie udostępniaj jej wyników:

v1_result = run_v1(query)
async def shadow():
    v2_result = await run_v2(query)
    log_compare(v1_result, v2_result)
asyncio.create_task(shadow())
return v1_result

Odtwarzanie ruchu produkcyjnego

Przechwytuj zapytania produkcyjne do bufora, a następnie co noc odtwarzaj je w nowej wersji. Przed jej udostępnieniem porównuj jakość odpowiedzi.

Testy A/B

W przypadku długotrwałych eksperymentów jakościowych należy losowo podzielić ruch i statystycznie porównywać metryki przez kilka tygodni.

Wersjonowanie promptów

Prompty należy traktować jak kod — przypinać ich wersję, wdrażać je wraz z modelem równolegle z poprzednią wersją i udostępniać za pomocą flagi:

PROMPTS = {
    'qa-v3': '...',
    'qa-v4': '...'
}
active = 'qa-v4' if feature_flag_on() else 'qa-v3'

Przypinanie wersji modelu

Należy przypiąć wersję modelu (gpt-4o-2024-08-06), aby aktualizowanie przez dostawców domyślnych modeli nie zmieniło niepostrzeżenie działania z dnia na dzień.

Automatyczne wycofywanie

Jeśli metryka przekroczy próg, należy automatycznie wycofać canary do 0% i wysłać alert:

if p95_latency_now > 1.5 * p95_latency_baseline:
    flag.set('canary_pct', 0)
    alert('Auto-rollback triggered')

Dokumentowanie każdego wydania

W informacjach o każdym wydaniu należy uwzględnić:

  • Co się zmieniło (prompt, model, pobieranie danych)
  • Wyniki ewaluacji przed zmianą i po niej
  • Oś czasu wdrożenia canary
  • Czy wdrożenie zostało wycofane

Dlaczego canary?

Dlaczego w przypadku agentów warto stosować wdrożenia canary zamiast wydań wdrażanych w jednym kroku?

Podsumowanie

Ruch należy obsługiwać za pomocą feature flag, zwiększać jego udział od 5% -> 100% oraz obserwować błędy, opóźnienia, koszty i opinie. W razie potrzeby należy szybko wycofać wdrożenie. Dla większej pewności warto dodać tryb cieniowy i odtwarzanie ruchu.

Często zadawane pytania

Czy lekcja „Wdrożenia blue-green i canary dla agentów” jest bezpłatna?

Tak — pełny tekst „Wdrożenia blue-green i canary dla agentów” jest dostępny za darmo tutaj w sieci. Aby ćwiczyć ją interaktywnie (wbudowany edytor kodu i tutor AI dostępny 24/7) i odblokować resztę kursu AI Agents, przejdź na CoddyKit PRO. Kurs AI Agents zawiera 4 lekcji w sumie.

Co nauczysz się w „Wdrożenia blue-green i canary dla agentów”?

Udostępnij nowe prompty i modele 5% ruchu, obserwuj metryki, a następnie zwiększaj udział — nigdy nie wdrażaj wszystkiego naraz. Ćwiczysz AI Agents z praktycznym kodem, który uruchamiasz bezpośrednio w przeglądarce, a tutor AI dostępny 24/7 odpowiada na Twoje pytania podczas pracy nad lekcją.

Czy potrzebuję doświadczenia, aby zacząć AI Agents?

Nie wymagamy żadnego doświadczenia. AI Agents w CoddyKit jest strukturyzowany dla początkujących i zaawansowanych użytkowników, więc możesz zacząć tutaj lub od początku i uczyć się w swoim tempie. To lekcja 4 z 4.

Ile czasu zajmuje lekcja „Wdrożenia blue-green i canary dla agentów”?

Większość lekcji CoddyKit trwa około 5–10 minut. Każda lekcja to mały, interaktywny krok, dzięki czemu robisz systematyczne postępy i zawsze wracasz dokładnie do tego samego miejsca — na webie i w aplikacji.

Czy mogę pisać i uruchamiać kod w tej lekcji AI Agents?

Tak. Każda lekcja AI Agents zawiera wbudowany edytor kodu, więc piszesz i uruchamiasz prawdziwy kod bezpośrednio w przeglądarce i od razu otrzymujesz sprzężenie zwrotne od AI — bez konfiguracji na komputerze.

Wszystkie lekcje w tym kursie

  1. Udostępnianie agentów za API
  2. Asynchroniczne przepływy pracy i zadania w tle
  3. Ograniczanie częstotliwości i zarządzanie limitami
  4. Wdrożenia blue-green i canary dla agentów
← Powrót do AI Agents