Pods, deployments og services til modeller
Map ML-serving til de centrale Kubernetes-objekter.
Pods, deployments og services til modeller er en gratis MLOps Academy-lektion på CoddyKit. Dette er lektion 1 af 4. Du kan læse hele lektionen gratis nedenfor — og derefter øve dig praktisk i browseren med en indbygget kodeeditor og en AI-vejleder, der er tilgængelig døgnet rundt. Den er en del af læringsforløbet i MLOps Academy, og dine fremskridt synkroniseres på tværs af nettet og CoddyKit-appen. MLOps Academy-kurset indeholder 4 lektioner i alt.
Pod'en er den mindste enhed
Kubernetes kører aldrig en løs container. Det mindste, der planlægges, er en Pod – en indpakning med én container (din modelserver) og dens delte netværk. 📦
Én modelserver pr. Pod
Til ML-servering placerer du normalt én model-API-container i hver Pod. Det gør skalering, genstarter og ressourcegrænser nemme at forstå for hver model.
Pods kan kasseres
En Pod kan stoppe når som helst på grund af en nodefejl eller en opgradering. Du navngiver eller passer aldrig selv på en bestemt Pod; du lader klyngen erstatte den for dig.
Deployment holder Pods kørende
En Deployment er den controller, du faktisk opretter. Den angiver, hvor mange identiske model-Pods du ønsker, og opretter nye, hvis nogle går ned eller forsvinder.
apiVersion: apps/v1
kind: Deployment
metadata:
name: model-api
spec:
replicas: 3Replikaer giver dig skalering
Sæt replikaer til 3, så kører du straks tre kopier af din modelserver. Forøg tallet, så starter Kubernetes flere for at dele belastningen.
Pod-skabelonen
Inde i en Deployment er skabelonen planen for hver Pod: hvilken afbildning der skal hentes, hvilken port model-API'et lytter på, og hvilke ressourcer den har brug for.
Rullende opdateringer er indbygget
Udrul en ny modelafbildning, så udfører Deployment en rullende opdatering ved at udskifte gamle Pods nogle få ad gangen. På den måde fortsætter prædiktionerne uden nedetid.
Pod-IP-adresser ændrer sig hele tiden
Hver ny Pod får en ny intern IP-adresse. Klienter kan ikke følge mål, der hele tiden flytter sig, så du har brug for en stabil indgang, der ikke ændrer sig. 🔀
Service er den indgang
En Service giver dine model-Pods ét stabilt navn og én virtuel IP-adresse og fordeler derefter forespørgslerne mellem de replikaer, der aktuelt er sunde.
apiVersion: v1
kind: Service
metadata:
name: model-api
spec:
selector:
app: model-api
ports:
- port: 80Labels forbinder det hele
En Service finder sine Pods ved at matche labels, ikke IP-adresser. Vælgeren app=model-api forbinder Servicen med alle Pods, der har det samme label.
ClusterIP kontra LoadBalancer
En ClusterIP-Service er kun tilgængelig inde i klyngen og er velegnet til interne kald. Brug LoadBalancer eller en Ingress, når eksterne brugere skal have adgang til modellen.
Hurtigt tjek
Hvilket objekt skal du oprette for at køre model-Pods og automatisk gendanne dem?
Opsummering
Pods kører din model, en Deployment holder det rigtige antal kørende, og en Service giver klienterne én stabil adresse. De tre dele er kernen i modelservering på Kubernetes. ✅
Lær Python med en AI-underviser — gratis
Skriv og kør rigtig kode i din browser, få øjeblikkelig hjælp fra en AI-underviser døgnet rundt, og fortsæt, hvor du slap, på web eller i appen.
- Kurser
- 30
- Lektioner
- 120
Ofte stillede spørgsmål
Er lektionen “Pods, deployments og services til modeller” gratis?
Ja — hele teksten til “Pods, deployments og services til modeller” kan læses gratis her på nettet. Hvis du vil øve dig interaktivt med en indbygget kodeeditor og en AI-vejleder døgnet rundt og få adgang til resten af MLOps Academy-kurset, skal du opgradere til CoddyKit PRO. MLOps Academy-kurset indeholder 4 lektioner i alt.
Hvad lærer jeg i “Pods, deployments og services til modeller”?
Map ML-serving til de centrale Kubernetes-objekter. Du øver dig i MLOps Academy med praktisk kode, som du kører direkte i browseren, og en AI-vejleder døgnet rundt besvarer dine spørgsmål, mens du arbejder dig gennem lektionen.
Skal jeg have erfaring for at begynde på MLOps Academy?
Der kræves ingen tidligere erfaring. MLOps Academy på CoddyKit er tilrettelagt for både begyndere og øvede, så du kan starte her eller fra begyndelsen og lære i dit eget tempo. Dette er lektion 1 af 4.
Hvor lang tid tager lektionen “Pods, deployments og services til modeller”?
De fleste CoddyKit-lektioner tager cirka 5–10 minutter. Hver lektion er kort og interaktiv, så du gør løbende fremskridt og kan fortsætte, hvor du slap – på både web og app.
Kan jeg skrive og køre kode i denne MLOps Academy-lektion?
Ja. Alle MLOps Academy-lektioner har en indbygget kodeeditor, så du kan skrive og køre rigtig kode direkte i din browser og få øjeblikkelig feedback fra AI – uden lokal opsætning.
Alle lektioner i dette kursus
- Pods, deployments og services til modeller
- Anmod om CPU, hukommelse og GPU
- Konfigurér med ConfigMaps og Secrets
- Kør træning som et Kubernetes Job