Ota käyttöön palvelimeton konttiympäristö
Aja mallia Cloud Runissa tai App Runnerissa.
Ota käyttöön palvelimeton konttiympäristö on ilmainen MLOps Academy-oppitunti CoddyKitissä. Tämä on oppitunti 2/4. Voit lukea koko oppitunnin alta ilmaiseksi ja harjoitella sen jälkeen käytännössä selaimessa sisäänrakennetulla koodieditorilla ja ympäri vuorokauden käytettävissä olevan tekoälytuutorin avulla. Oppitunti kuuluu MLOps Academy-oppimispolkuun, ja edistymisesi synkronoituu verkon ja CoddyKit-sovelluksen välillä. MLOps Academy-kurssilla on yhteensä 4 oppituntia.
Ohittakaa palvelimet
Serverless container runtime ajaa imageanne ilman, että hallinnoitte virtuaalikoneita. Luovutatte kontin alustalle, joka hoitaa loput. ☁️
Kaksi suosittua vaihtoehtoa
Google tarjoaa Cloud Runin ja AWS App Runnerin. Molemmat hakevat imagen registrystä ja julkaisevat sen hallinnoidun HTTPS-URL-osoitteen kautta.
Ottakaa käyttöön imagen perusteella
Osoitatte runtimen pushattuun imageen, ja se luo palvelun. Cloud Runissa yksi deploy-komento muuttaa imagen käytössä olevaksi URL-osoitteeksi.
gcloud run deploy model-api --image registry.example.com/team/model-api:1.0.0Kuunnelkaa oikeaa porttia
Alusta lähettää liikenteen valitsemaansa porttiin, joka ilmoitetaan PORT-ympäristömuuttujassa. Sovelluksen on sidottava kyseiseen arvoon, ei kovakoodattuun porttiin.
uvicorn main:app --host 0.0.0.0 --port ${PORT}Sitoutukaa kaikkiin rajapintoihin
Kontin sisällä palvelin on sidottava osoitteeseen 0.0.0.0, ei osoitteeseen 127.0.0.1. Muuten alusta ei voi reitittää ulkopuolista liikennettä prosessiinne.
Vain tilattomat kontit
Instanssit voivat käynnistyä ja pysähtyä milloin tahansa, joten paikalliselle levylle tallennetut tiedot voivat kadota. Pitäkää palvelu tilattomana ja tallentakaa tiedot ulkoisesti.
Maksatte siitä, mitä palvelette
Serverless-laskutus perustuu yleensä pyyntöjen määrään ja aktiivisiin sekunteihin. Kun kukaan ei kutsu mallianne, joutoaika voi maksaa lähes ei mitään. 💸
Huomioikaa kylmäkäynnistys
Jos joutilaana ollut palvelu skaalautui nollaan, seuraava pyyntö joutuu odottamaan kontin käynnistymistä. Tätä viivettä kutsutaan kylmäkäynnistykseksi, ja sitä esiintyy usein suurten mallitiedostojen yhteydessä.
Säilyttäkää lämmin instanssi
Kylmäkäynnistysten välttämiseksi asettakaa minimum instances -alaraja. Alusta pitää tämän määrän kontteja lämpiminä ja valmiina vastaamaan heti.
gcloud run deploy model-api --min-instances 1Seuratkaa reaaliaikaisia lokeja
Runtime siirtää kontin tulosteen omaan lokikonsoliinsa. Seuratkaa lokeja heti käyttöönoton jälkeen varmistaaksenne, että malli latautui ongelmitta.
Imagesta toimivaksi URL-osoitteeksi
Koko prosessi on tässä: pushatkaa image, suorittakaa yksi deploy, ja alusta palauttaa julkisen URL-osoitteen, joka tarjoaa mallinne HTTPS:n kautta.
Pikatarkistus
Tarkistetaan, miksi ensimmäinen pyyntö voi tuntua hitaalta.
Kertaus
Otitte imagen käyttöön serverless-runtimessa, sidoitte sen PORT-muuttujaan osoitteessa 0.0.0.0, piditte palvelun tilattomana ja hallitsitte kylmäkäynnistyksiä. Mallinne on käytössä. 🎉
Opi Python tekoälytuutorin avulla — ilmaiseksi
Kirjoita ja suorita oikeaa koodia selaimessa, saa välitöntä apua tekoälytuutorilta ympäri vuorokauden ja jatka siitä, mihin jäit, verkossa tai sovelluksessa.
- Kurssit
- 30
- Oppitunnit
- 120
Usein kysytyt kysymykset
Onko oppitunti ”Ota käyttöön palvelimeton konttiympäristö” ilmainen?
Kyllä – oppitunnin ”Ota käyttöön palvelimeton konttiympäristö” koko tekstin voi lukea täällä verkossa ilmaiseksi. Jos haluat harjoitella interaktiivisesti sisäänrakennetulla koodieditorilla ja ympäri vuorokauden käytettävissä olevan tekoälytuutorin avulla sekä avata koko MLOps Academy-kurssin, päivitä CoddyKit PROhon. MLOps Academy-kurssilla on yhteensä 4 oppituntia.
Mitä opin oppitunnilla ”Ota käyttöön palvelimeton konttiympäristö”?
Aja mallia Cloud Runissa tai App Runnerissa. Harjoittelet MLOps Academy-aihetta koodilla, jonka suoritat suoraan selaimessa. Ympäri vuorokauden käytettävissä oleva tekoälytuutori vastaa kysymyksiisi oppitunnin aikana.
Tarvitsenko kokemusta aloittaakseni MLOps Academy-opiskelun?
Aiempi kokemus ei ole tarpeen. CoddyKitin MLOps Academy-oppimispolku sopii vasta-alkajista edistyneisiin, joten voit aloittaa tästä tai alusta ja edetä omaan tahtiisi. Tämä on oppitunti 2/4.
Kuinka kauan ”Ota käyttöön palvelimeton konttiympäristö”-oppitunnin suorittaminen kestää?
Useimmat CoddyKitin oppitunnit kestävät noin 5–10 minuuttia. Jokainen oppitunti on lyhyt ja interaktiivinen, joten edistyt tasaisesti ja voit jatkaa siitä, mihin jäit – sekä verkossa että sovelluksessa.
Voinko kirjoittaa ja suorittaa koodia tällä MLOps Academy-oppitunnilla?
Kyllä. Jokainen MLOps Academy-oppitunti sisältää sisäänrakennetun koodieditorin, joten voit kirjoittaa ja suorittaa oikeaa koodia suoraan selaimessa ja saada välitöntä palautetta tekoälyltä – paikallista asennusta ei tarvita.
Kaikki tämän kurssin oppitunnit
- Puske image rekisteriin
- Ota käyttöön palvelimeton konttiympäristö
- Määritä automaattinen skaalaus ja samanaikaisuus
- Hallitse salaisuuksia ja konfiguraatiota pilvessä