CPU, geheugen en GPU aanvragen
Stel resource limits in zodat pods correct worden ingepland.
CPU, geheugen en GPU aanvragen is een gratis MLOps Academy-les op CoddyKit. Dit is les 2 van 4. Je kunt de volledige les hieronder gratis lezen en daarna in de browser praktisch oefenen met een ingebouwde code-editor en een AI-begeleider die 24/7 beschikbaar is. Deze les maakt deel uit van het leertraject MLOps Academy. Je voortgang wordt gesynchroniseerd op het web en in de CoddyKit-app. De cursus MLOps Academy bevat in totaal 4 lessen.
De scheduler heeft getallen nodig
Kubernetes plaatst Pods op nodes waar ruimte is. Om die keuze te maken, moet de scheduler weten hoeveel CPU en geheugen elke model-Pod zal gebruiken.
Aanvragen versus limieten
Een aanvraag is de hoeveelheid die wordt gegarandeerd en voor het plannen wordt gebruikt. Een limiet is het maximum dat een container niet mag overschrijden. Stel bijna altijd beide in.
CPU wordt gemeten in millicores
CPU wordt geteld in millicores: 1000m staat gelijk aan één volledige core. Als je 500m aanvraagt, krijgt je model-Pod een halve CPU-core gegarandeerd.
resources:
requests:
cpu: "500m"
memory: "512Mi"
limits:
cpu: "1"
memory: "1Gi"Geheugen gebruikt Mi en Gi
Geheugen wordt ingesteld in mebibytes of gibibytes, zoals 512Mi of 2Gi. Dimensioneer het op basis van je model en runtime, met daarbovenop wat extra ruimte.
Te laag en de Pod blijft in behandeling
Als geen enkele node aan je aanvragen kan voldoen, blijft de Pod voor altijd in de status Pending staan. Grote GPU-modellen wachten vaak simpelweg omdat er niets vrij is dat groot genoeg is.
OOMKilled bij overschrijding van het geheugen
Overschrijd je de geheugenlimiet, dan beëindigt de kernel de container met de status OOMKilled. Met goed gedimensioneerde limieten voorkom je dat je modelserver midden in een aanvraag wordt beëindigd. 💥
CPU-limieten vertragen, maar beëindigen niet
In tegenstelling tot geheugen beëindigt het overschrijden van een CPU-limiet de Pod niet. De container wordt alleen afgeremd, waardoor de latentie toeneemt in plaats van dat het proces stopt.
GPU's worden als limieten aangevraagd
GPU's zijn een uitgebreide resource. Je vraagt ze alleen aan onder limieten met nvidia.com/gpu, en de waarde moet een geheel getal zijn, nooit een fractie.
resources:
limits:
nvidia.com/gpu: 1Een GPU wordt niet gedeeld in de tijd
Eén GPU-aanvraag reserveert standaard het hele apparaat voor die Pod. Twee Pods kunnen een kaart niet zomaar delen zonder een speciale configuratie met MIG of tijdsplitsing.
De deviceplugin maakt GPU's zichtbaar
Nodes bieden pas GPU's aan nadat de NVIDIA-deviceplugin erop draait. Zonder plugin is er geen nvidia.com/gpu-resource en blijft je GPU-Pod in de status Pending staan.
Goed dimensioneren bespaart geld
Te veel aanvragen verspillen volledige nodes; te weinig aanvragen vergroten het risico op verwijdering. Door het werkelijke gebruik te volgen en aanvragen af te stemmen, blijft model-serving stabiel en betaalbaar.
Korte controle
Wat gebeurt er wanneer een container zijn geheugenlimiet overschrijdt?
Samenvatting
Declareer aanvragen en limieten voor CPU en geheugen, vraag volledige GPU's aan onder limieten en dimensioneer op basis van werkelijk gebruik om je model-Pods gezond te houden. ✅
Leer Python met een AI-tutor — gratis
Schrijf echte code en voer die uit in je browser, krijg direct hulp van een AI-tutor die 24/7 beschikbaar is en ga verder waar je gebleven bent op het web of in de app.
- Cursussen
- 30
- Lessen
- 120
Veelgestelde vragen
Is de les “CPU, geheugen en GPU aanvragen” gratis?
Ja — de volledige tekst van “CPU, geheugen en GPU aanvragen” kun je hier gratis op het web lezen. Als je interactief wilt oefenen met een ingebouwde code-editor en een AI-begeleider die 24/7 beschikbaar is, en de rest van de cursus MLOps Academy wilt ontgrendelen, kun je upgraden naar CoddyKit PRO. De cursus MLOps Academy bevat in totaal 4 lessen.
Wat leer ik in “CPU, geheugen en GPU aanvragen”?
Stel resource limits in zodat pods correct worden ingepland. Je oefent met MLOps Academy door code rechtstreeks in de browser uit te voeren. Een AI-begeleider die 24/7 beschikbaar is beantwoordt je vragen terwijl je de les doorwerkt.
Heb ik ervaring nodig om met MLOps Academy te beginnen?
Ervaring vooraf is niet nodig. MLOps Academy op CoddyKit is opgebouwd voor beginners tot gevorderden, zodat je hier of bij het begin kunt starten en in je eigen tempo kunt leren. Dit is les 2 van 4.
Hoe lang duurt de les “CPU, geheugen en GPU aanvragen”?
De meeste lessen van CoddyKit duren ongeveer 5–10 minuten. Elke les is kort en interactief, zodat je gestaag vooruitgaat en op het web en in de app precies verdergaat waar je was gebleven.
Kan ik code schrijven en uitvoeren in deze les over MLOps Academy?
Ja. Elke les over MLOps Academy bevat een ingebouwde code-editor, zodat je rechtstreeks in je browser echte code kunt schrijven en uitvoeren en direct feedback van AI krijgt — lokale installatie is niet nodig.
Alle lessen in deze cursus
- Pods, Deployments en Services voor modellen
- CPU, geheugen en GPU aanvragen
- Configureren met ConfigMaps en Secrets
- Training uitvoeren als Kubernetes Job