Peilaa liikennettä vaikuttamatta käyttäjiin
Peilaa reaaliaikaiset pyynnöt ehdokasmallille huomaamattomasti.
Peilaa liikennettä vaikuttamatta käyttäjiin on ilmainen MLOps Academy-oppitunti CoddyKitissä. Tämä on oppitunti 2/4. Voit lukea koko oppitunnin alta ilmaiseksi ja harjoitella sen jälkeen käytännössä selaimessa sisäänrakennetulla koodieditorilla ja ympäri vuorokauden käytettävissä olevan tekoälytuutorin avulla. Oppitunti kuuluu MLOps Academy-oppimispolkuun, ja edistymisesi synkronoituu verkon ja CoddyKit-sovelluksen välillä. MLOps Academy-kurssilla on yhteensä 4 oppituntia.
Mikä shadow mode on
Shadow modessa ehdokasmalli näkee todelliset tuotantopyynnöt, mutta sen vastauksia ei koskaan näytetä käyttäjille. Se seuraa tapahtumia sivusta. 👀
Peilaa, älä palvele
Jokainen tuotantopyyntö peilataan shadow-mallille. Champion tuottaa edelleen käyttäjän vastaanottaman vastauksen.
Ei vaikutusta käyttäjiin
Koska shadow-mallin tuloste hylätään, edes täysin toimimaton ehdokasmalli ei voi vahingoittaa yhtäkään käyttäjää. Tämä on shadow-testauksen tärkein etu.
Testaa todellisella datalla
Shadow mode syöttää ehdokasmallille täsmälleen sen tuotantoliikenteen, jonka se kohtaisi käytössä, mukaan lukien sekavat reunatapaukset, jotka offline-testijoukot usein ohittavat.
Miten peilaus toimii
Lähetätte saman syötteen molemmille malleille, palautatte vain championin vastauksen ja tallennatte shadow-mallin tuloksen myöhempää tarkastelua varten. Käyttäjä odottaa vain championin vastausta.
def handle(request):
primary = champion.predict(request)
shadow = candidate.predict(request)
store_shadow(request, primary, shadow)
return primarySuorita shadow-toiminto kuuman polun ulkopuolella
Kutsukaa shadow-mallia asynkronisesti, jotta se ei koskaan lisää käyttäjien kokemaa latenssia. Hidas shadow-malli ei saa hidastaa todellisia vastauksia.
Vertaa kahta tulostetta
Kohdistakaa shadow-ennusteet myöhemmin championin ennusteisiin ja etsikää eroavaisuuksia. Suuret erot paljastavat, missä ehdokasmalli toimii eri tavalla.
Havaitse kaatumiset ajoissa
Shadow-ajot paljastavat todellisen kuormituksen aikana käytännön ongelmia, kuten aikakatkaisuja, muistipiikkejä tai skeemojen yhteensopimattomuuksia, ennen kuin yksikään käyttäjä altistuu niille.
Puuttuva todellinen vertailuarvo
Shadow näyttää, mitä malli ennustaa, mutta ei sitä, oliko ennuste oikea. Todellisen tarkkuuden arviointiin tarvitaan myöhemmin edelleen tunnisteet.
Huomioi sivuvaikutukset
Jos mallisi käynnistää kirjoituksia, sähköposteja tai veloituksia, shadow-kutsujen on ohitettava nämä toiminnot. Muuten hiljainen testi aiheuttaa hyvin näkyviä todellisia vaikutuksia.
Shadow, sitten canary
Shadow osoittaa, että ehdokas toimii turvallisesti; canary puolestaan osoittaa, että se palvelee käyttäjiä hyvin. Monet tiimit käyttävät ensin shadow-menetelmää ja sen jälkeen canary-menetelmää oikeilla käyttäjillä.
Pikatarkistus
Mikä todella määrittää shadow-käyttöönoton?
Kertaus
Shadow-tila välittää reaaliaikaisen liikenteen ehdokkaalle, hylkää sen vastaukset ja suorittaa sen varsinaisen käsittelypolun ulkopuolella. Näin testaaminen onnistuu oikealla datalla ilman käyttäjille aiheutuvaa riskiä. ✅
Opi Python tekoälytuutorin avulla — ilmaiseksi
Kirjoita ja suorita oikeaa koodia selaimessa, saa välitöntä apua tekoälytuutorilta ympäri vuorokauden ja jatka siitä, mihin jäit, verkossa tai sovelluksessa.
- Kurssit
- 30
- Oppitunnit
- 120
Usein kysytyt kysymykset
Onko oppitunti ”Peilaa liikennettä vaikuttamatta käyttäjiin” ilmainen?
Kyllä – oppitunnin ”Peilaa liikennettä vaikuttamatta käyttäjiin” koko tekstin voi lukea täällä verkossa ilmaiseksi. Jos haluat harjoitella interaktiivisesti sisäänrakennetulla koodieditorilla ja ympäri vuorokauden käytettävissä olevan tekoälytuutorin avulla sekä avata koko MLOps Academy-kurssin, päivitä CoddyKit PROhon. MLOps Academy-kurssilla on yhteensä 4 oppituntia.
Mitä opin oppitunnilla ”Peilaa liikennettä vaikuttamatta käyttäjiin”?
Peilaa reaaliaikaiset pyynnöt ehdokasmallille huomaamattomasti. Harjoittelet MLOps Academy-aihetta koodilla, jonka suoritat suoraan selaimessa. Ympäri vuorokauden käytettävissä oleva tekoälytuutori vastaa kysymyksiisi oppitunnin aikana.
Tarvitsenko kokemusta aloittaakseni MLOps Academy-opiskelun?
Aiempi kokemus ei ole tarpeen. CoddyKitin MLOps Academy-oppimispolku sopii vasta-alkajista edistyneisiin, joten voit aloittaa tästä tai alusta ja edetä omaan tahtiisi. Tämä on oppitunti 2/4.
Kuinka kauan ”Peilaa liikennettä vaikuttamatta käyttäjiin”-oppitunnin suorittaminen kestää?
Useimmat CoddyKitin oppitunnit kestävät noin 5–10 minuuttia. Jokainen oppitunti on lyhyt ja interaktiivinen, joten edistyt tasaisesti ja voit jatkaa siitä, mihin jäit – sekä verkossa että sovelluksessa.
Voinko kirjoittaa ja suorittaa koodia tällä MLOps Academy-oppitunnilla?
Kyllä. Jokainen MLOps Academy-oppitunti sisältää sisäänrakennetun koodieditorin, joten voit kirjoittaa ja suorittaa oikeaa koodia suoraan selaimessa ja saada välitöntä palautetta tekoälyltä – paikallista asennusta ei tarvita.
Kaikki tämän kurssin oppitunnit
- Canary-julkaisut: julkaise ensin vain muutamille
- Peilaa liikennettä vaikuttamatta käyttäjiin
- Määritä automaattisen palautuksen ehdot
- Progressiivinen toimitus Argo Rolloutsilla