Canary-udrulninger: Udrul først til få
Flyt en lille del af trafikken til den nye model.
Canary-udrulninger: Udrul først til få er en gratis MLOps Academy-lektion på CoddyKit. Dette er lektion 1 af 4. Du kan læse hele lektionen gratis nedenfor — og derefter øve dig praktisk i browseren med en indbygget kodeeditor og en AI-vejleder, der er tilgængelig døgnet rundt. Den er en del af læringsforløbet i MLOps Academy, og dine fremskridt synkroniseres på tværs af nettet og CoddyKit-appen. MLOps Academy-kurset indeholder 4 lektioner i alt.
Hvad en canary er
En canary-udrulning sender først din nye model til en lille del af den virkelige trafik, så eventuelle problemer forbliver begrænsede, mens du holder øje. 🐤
Hvorfor ikke sende den ud til alle
At skifte al trafik til en ny model på én gang er en big-bang-udrulning: Hvis den er forkert, mærker alle brugere det med det samme.
Start bevidst i det små
Canary-udrulninger begynder normalt med omkring 5 % af trafikken. Det er nok til at indsamle reelle signaler, men lille nok til at en dårlig model næsten ikke påvirker dine brugere.
Champion og challenger
Den stabile model er champion; canary-modellen er challengeren. Begge kører live samtidig, så du kan sammenligne dem på de samme virkelige forespørgsler.
Hold øje, før du udvider
Mens canary-modellen betjener sin del, overvåger du fejlrate, forsinkelse og vigtige forretningsmålinger side om side med champion-modellen.
Skru op trin for trin
Hvis canary-modellen ser sund ud, øger du dens andel trinvis, for eksempel 5 %, 25 %, 50 % og derefter 100 %, mens du holder pause for at kontrollere hvert niveau.
Opdeling af trafikken
En router eller proxy afgør, hvilken model hver forespørgsel rammer. Denne enkle opdeling sender ét ud af tyve kald til canary-versionen.
import random
def route(request, canary_pct=5):
if random.uniform(0, 100) < canary_pct:
return canary_model.predict(request)
return champion_model.predict(request)Mærk, hvem der håndterede den
Log, hvilken model der håndterede hver forespørgsel. Uden et versionsmærke på hver forudsigelse kan du senere ikke se, hvilke målinger der tilhører hvilken model.
log.info("prediction", extra={
"model_version": "v2-canary",
"latency_ms": latency,
})Gør delene sammenlignelige
Dirigér efter et stabilt hash af bruger-id'et, så den samme person altid ender på den samme model. Tilfældig opdeling pr. forespørgsel gør en fair sammenligning vanskeligere.
Træk hurtigt ud
Hele pointen er at kunne trække sig hurtigt. Hvis canary-modellen opfører sig forkert, sænker du dens trafik tilbage til 0 %, uden at brugerne nogensinde opdager noget.
Canary kontra blue-green
Blue-green har to komplette miljøer og skifter mellem dem. En canary lader i stedet trafikken sive gradvist over, så du får mere finmasket kontrol og tidligere advarsler.
Hurtigt tjek
Lad os tjekke den grundlæggende idé bag en canary.
Opsummering
En canary sender først din nye model til en meget lille del af trafikken, sammenligner den med champion-modellen, øger andelen kun hvis alt ser sundt ud, og ruller straks tilbage, hvis det ikke gør. ✅
Lær Python med en AI-underviser — gratis
Skriv og kør rigtig kode i din browser, få øjeblikkelig hjælp fra en AI-underviser døgnet rundt, og fortsæt, hvor du slap, på web eller i appen.
- Kurser
- 30
- Lektioner
- 120
Ofte stillede spørgsmål
Er lektionen “Canary-udrulninger: Udrul først til få” gratis?
Ja — hele teksten til “Canary-udrulninger: Udrul først til få” kan læses gratis her på nettet. Hvis du vil øve dig interaktivt med en indbygget kodeeditor og en AI-vejleder døgnet rundt og få adgang til resten af MLOps Academy-kurset, skal du opgradere til CoddyKit PRO. MLOps Academy-kurset indeholder 4 lektioner i alt.
Hvad lærer jeg i “Canary-udrulninger: Udrul først til få”?
Flyt en lille del af trafikken til den nye model. Du øver dig i MLOps Academy med praktisk kode, som du kører direkte i browseren, og en AI-vejleder døgnet rundt besvarer dine spørgsmål, mens du arbejder dig gennem lektionen.
Skal jeg have erfaring for at begynde på MLOps Academy?
Der kræves ingen tidligere erfaring. MLOps Academy på CoddyKit er tilrettelagt for både begyndere og øvede, så du kan starte her eller fra begyndelsen og lære i dit eget tempo. Dette er lektion 1 af 4.
Hvor lang tid tager lektionen “Canary-udrulninger: Udrul først til få”?
De fleste CoddyKit-lektioner tager cirka 5–10 minutter. Hver lektion er kort og interaktiv, så du gør løbende fremskridt og kan fortsætte, hvor du slap – på både web og app.
Kan jeg skrive og køre kode i denne MLOps Academy-lektion?
Ja. Alle MLOps Academy-lektioner har en indbygget kodeeditor, så du kan skrive og køre rigtig kode direkte i din browser og få øjeblikkelig feedback fra AI – uden lokal opsætning.
Alle lektioner i dette kursus
- Canary-udrulninger: Udrul først til få
- Shadow-trafik uden brugerindvirkning
- Definér kriterier for automatisk rollback
- Progressiv levering med Argo Rollouts