Speil trafikk uten å påvirke brukerne
Speil aktive forespørsler stille til en kandidat.
Speil trafikk uten å påvirke brukerne er en gratis leksjon i MLOps Academy på CoddyKit. Dette er leksjon 2 av 4. Du kan lese hele leksjonen gratis nedenfor – og deretter øve praktisk i nettleseren med en innebygd kodeeditor og en AI-veileder som er tilgjengelig døgnet rundt. Den er en del av læringsløpet i MLOps Academy, og fremdriften din synkroniseres mellom nettet og CoddyKit-appen. Kurset i MLOps Academy inneholder totalt 4 leksjoner.
Hva skyggemodus er
I skyggemodus mottar en kandidatmodell virkelige produksjonsforespørsler, men svarene vises aldri til brukerne. Modellen følger med fra sidelinjen. 👀
Speil, ikke betjen
Hver direkte forespørsel speiles til skyggemodellen. Mestermodellen produserer fortsatt svaret som brukerne faktisk mottar.
Ingen påvirkning på brukerne
Fordi output fra skyggemodellen forkastes, kan ikke selv en fullstendig ødelagt kandidat skade en eneste bruker. Det er hele poenget med skyggetesting.
Test med virkelige data
Skyggemodus gir kandidaten nøyaktig den produksjonstrafikken den vil møte, inkludert uforutsigbare spesialtilfeller som offline-testsett ofte går glipp av.
Slik fungerer speilingen
Send samme input til begge modellene, returner bare svaret fra mestermodellen, og lagre resultatet fra skyggemodellen for senere. Brukeren venter bare på mestermodellen.
def handle(request):
primary = champion.predict(request)
shadow = candidate.predict(request)
store_shadow(request, primary, shadow)
return primaryKjør skyggemodellen utenfor den kritiske banen
Kall skyggemodellen asynkront, slik at den aldri øker ventetiden brukerne opplever. En treg skyggemodell må ikke gjøre de virkelige svarene tregere.
Sammenlign de to outputene
Senere kan du stille prediksjonene fra skyggemodellen opp mot mestermodellen for å finne uenigheter. Store avvik viser hvor kandidaten oppfører seg annerledes.
Oppdag krasj tidlig
Skyggemodellkjøringer avdekker praktiske problemer som tidsavbrudd, plutselige minnetopper eller avvik i skjemaet under reell belastning, alt før noen bruker blir eksponert.
Avstanden til fasiten
Shadow viser hva modellen predikerer, ikke om den hadde rett. De trenger fortsatt etiketter senere for å vurdere den faktiske nøyaktigheten.
Vær oppmerksom på bivirkningene
Hvis modellen utløser skriving, e-post eller belastninger, må shadow-kall hoppe over disse handlingene. Ellers kan en stille test føre til svært høylytte virkninger i virkeligheten.
Shadow først, deretter canary
Shadow viser at kandidaten kjører trygt, mens en canary deretter viser at den fungerer godt i produksjon. Mange team bruker shadow først og deretter canary med ekte brukere.
Hurtigsjekk
Hva kjennetegner egentlig en shadow-distribuering?
Oppsummering
Shadow-modus speiler live-trafikk til en kandidat, forkaster svarene og kjører den utenfor den kritiske banen, slik at De kan teste med ekte data uten risiko for brukerne. ✅
Lær deg Python med en AI-veileder – gratis
Skriv og kjør ekte kode i nettleseren, få umiddelbar hjelp fra en AI-veileder som er tilgjengelig døgnet rundt, og fortsett der du slapp – på nettet eller i appen.
- Kurs
- 30
- Leksjoner
- 120
Ofte stilte spørsmål
Er leksjonen «Speil trafikk uten å påvirke brukerne» gratis?
Ja – hele teksten i «Speil trafikk uten å påvirke brukerne» er gratis å lese her på nettet. For å øve interaktivt med en innebygd kodeeditor og en AI-veileder som er tilgjengelig døgnet rundt, og for å låse opp resten av MLOps Academy-kurset, kan du oppgradere til CoddyKit PRO. Kurset i MLOps Academy inneholder totalt 4 leksjoner.
Hva lærer jeg i «Speil trafikk uten å påvirke brukerne»?
Speil aktive forespørsler stille til en kandidat. Du øver på MLOps Academy med praktisk kode som du kjører direkte i nettleseren, mens en AI-veileder som er tilgjengelig døgnet rundt, svarer på spørsmålene dine mens du jobber deg gjennom leksjonen.
Trenger jeg erfaring for å begynne med MLOps Academy?
Ingen tidligere erfaring er nødvendig. MLOps Academy på CoddyKit er lagt opp for både nybegynnere og viderekomne, så De kan begynne her eller helt fra start og lære i Deres eget tempo. Dette er leksjon 2 av 4.
Hvor lang tid tar leksjonen «Speil trafikk uten å påvirke brukerne»?
De fleste CoddyKit-leksjoner tar omtrent 5–10 minutter. Hver leksjon er kort og interaktiv, slik at De gjør jevne fremskritt og kan fortsette akkurat der De slapp – både på nettet og i appen.
Kan jeg skrive og kjøre kode i denne MLOps Academy-leksjonen?
Ja. Alle MLOps Academy-leksjoner har en innebygd kodeeditor, slik at De kan skrive og kjøre ekte kode direkte i nettleseren og få umiddelbar tilbakemelding fra AI – uten lokal konfigurering.
Alle leksjonene i dette kurset
- Canary-distribusjoner: Send først til noen få
- Speil trafikk uten å påvirke brukerne
- Definer kriterier for automatisk tilbakeføring
- Progressiv utrulling med Argo Rollouts