Tarjotkaa malli FastAPI:lla
Käärikää päättely REST-päätepisteen ympärille
Tarjotkaa malli FastAPI:lla on ilmainen Deep Learning Academy-oppitunti CoddyKitissä. Tämä on oppitunti 4/4. Voit lukea koko oppitunnin alta ilmaiseksi ja harjoitella sen jälkeen käytännössä selaimessa sisäänrakennetulla koodieditorilla ja ympäri vuorokauden käytettävissä olevan tekoälytuutorin avulla. Oppitunti kuuluu Deep Learning Academy-oppimispolkuun, ja edistymisesi synkronoituu verkon ja CoddyKit-sovelluksen välillä. Deep Learning Academy-kurssilla on yhteensä 4 oppituntia.
Tallennetusta mallista toimivaksi API:ksi
Koulutettu malli auttaa käyttäjiä vasta, kun siihen pääsee käsiksi. FastAPI paketoi mallinne verkkorajapinnaksi, jota voidaan kutsua HTTP:n kautta. 🌍
Miksi FastAPI sopii päättelyyn
FastAPI on nopea, tukee asynkronisuutta ja luo dokumentaation automaattisesti. Siksi se on selkeä tapa tarjota mallin ennusteita REST-palveluna.
Lataa malli kerran käynnistyksen yhteydessä
Ladatkaa mallinne kerran palvelimen käynnistyessä, ei jokaisen pyynnön yhteydessä. Lataaminen jokaisella kutsulla hidastaisi jokaisen ennusteen tuskallisen hitaaksi.
model = torch.jit.load('model.pt')
model.eval()Luo sovellus
Aloitatte luomalla FastAPI-instanssin. Tämä olio sisältää reittinne ja toimii käynnistettävänä palvelimena.
from fastapi import FastAPI
app = FastAPI()Validoi syöte Pydanticilla
Määritelkää pyyntötekstille Pydantic-malli, jotta FastAPI tarkistaa saapuvan datan muodon ja tyypit automaattisesti.
from pydantic import BaseModel
class Item(BaseModel):
features: list[float]Määritä ennustereitti
POST-reitti vastaanottaa validoidun datan, suorittaa mallin ja palauttaa tuloksen JSON-muodossa, jonka asiakas voi lukea.
@app.post('/predict')
def predict(item: Item):
...Suorita päättely ilman gradientteja
Ympäröikää forward-välitys komennolla torch.no_grad(), jotta palvelin ohittaa gradienttien seurannan ja säästää jokaisella kutsulla aikaa ja muistia.
with torch.no_grad():
output = model(x)Palauta siisti JSON-vastaus
Muuntakaa tensorin tuloste tavallisiksi Python-luvuiksi ennen palauttamista, sillä raakatensorit eivät ole suoraan JSON-sarjallistettavia.
return {'prediction': output.argmax().item()}Tarjoa palvelu Uvicornilla
Uvicorn on palvelin, joka suorittaa FastAPI-sovelluksen. Yksi komento tuo ennustepäätepisteen verkkoon. 🚀
uvicorn main:app --host 0.0.0.0 --port 8000Tutustu automaattiseen dokumentaatioon
FastAPI luo vuorovaikutteisen dokumentaation polkuun /docs, joten voitte testata päätepistettä selaimessa yhdessä asiakkaidenne kanssa.
Lisää terveystarkistusreitti
Pieni health-päätepiste antaa kuormantasaajille mahdollisuuden varmistaa, että palvelin on toiminnassa. Pieni lisäys tekee käyttöönotosta huomattavasti luotettavampaa.
@app.get('/health')
def health():
return {'status': 'ok'}Pikatarkistus
Haluatte, että jokaisen pyynnön kentät ja tyypit validoidaan automaattisesti. Mikä tekee tämän?
Kertaus: mallinne on käytössä
Tarjositte mallin FastAPI:lla: latasitte sen kerran käynnistyksen yhteydessä, validoitte syötteen Pydanticilla, suorititte ennusteen no_grad-tilassa ja ajoitte sen Uvicornilla. 🎉
Opi Python tekoälytuutorin avulla — ilmaiseksi
Kirjoita ja suorita oikeaa koodia selaimessa, saa välitöntä apua tekoälytuutorilta ympäri vuorokauden ja jatka siitä, mihin jäit, verkossa tai sovelluksessa.
- Kurssit
- 30
- Oppitunnit
- 120
Usein kysytyt kysymykset
Onko oppitunti ”Tarjotkaa malli FastAPI:lla” ilmainen?
Kyllä – oppitunnin ”Tarjotkaa malli FastAPI:lla” koko tekstin voi lukea täällä verkossa ilmaiseksi. Jos haluat harjoitella interaktiivisesti sisäänrakennetulla koodieditorilla ja ympäri vuorokauden käytettävissä olevan tekoälytuutorin avulla sekä avata koko Deep Learning Academy-kurssin, päivitä CoddyKit PROhon. Deep Learning Academy-kurssilla on yhteensä 4 oppituntia.
Mitä opin oppitunnilla ”Tarjotkaa malli FastAPI:lla”?
Käärikää päättely REST-päätepisteen ympärille Harjoittelet Deep Learning Academy-aihetta koodilla, jonka suoritat suoraan selaimessa. Ympäri vuorokauden käytettävissä oleva tekoälytuutori vastaa kysymyksiisi oppitunnin aikana.
Tarvitsenko kokemusta aloittaakseni Deep Learning Academy-opiskelun?
Aiempi kokemus ei ole tarpeen. CoddyKitin Deep Learning Academy-oppimispolku sopii vasta-alkajista edistyneisiin, joten voit aloittaa tästä tai alusta ja edetä omaan tahtiisi. Tämä on oppitunti 4/4.
Kuinka kauan ”Tarjotkaa malli FastAPI:lla”-oppitunnin suorittaminen kestää?
Useimmat CoddyKitin oppitunnit kestävät noin 5–10 minuuttia. Jokainen oppitunti on lyhyt ja interaktiivinen, joten edistyt tasaisesti ja voit jatkaa siitä, mihin jäit – sekä verkossa että sovelluksessa.
Voinko kirjoittaa ja suorittaa koodia tällä Deep Learning Academy-oppitunnilla?
Kyllä. Jokainen Deep Learning Academy-oppitunti sisältää sisäänrakennetun koodieditorin, joten voit kirjoittaa ja suorittaa oikeaa koodia suoraan selaimessa ja saada välitöntä palautetta tekoälyltä – paikallista asennusta ei tarvita.
Kaikki tämän kurssin oppitunnit
- TorchScript ja torch.compile
- Viekää malli ONNX-muotoon
- Kvantisaatio pienemmille ja nopeammille malleille
- Tarjotkaa malli FastAPI:lla