Richiedere CPU, memoria e GPU
Imposti i limiti delle risorse affinché i pod vengano pianificati correttamente.
Richiedere CPU, memoria e GPU è una lezione MLOps Academy gratuita su CoddyKit. Questa è la lezione 2 di 4. Puoi leggere la lezione completa qui gratuitamente — poi esercitati direttamente nel browser con un editor di codice integrato e un tutor IA disponibile 24/7. Fa parte del percorso di apprendimento MLOps Academy, e i tuoi progressi si sincronizzano tra il web e l'app CoddyKit. Il corso MLOps Academy include 4 lezioni in totale.
Lo scheduler ha bisogno dei numeri
Kubernetes colloca i Pod sui nodi che dispongono di spazio. Per decidere, lo scheduler deve sapere quanta CPU e quanta memoria utilizzerà ogni Pod del modello.
Requests e limits
Una request è la quantità garantita e utilizzata per la pianificazione. Un limit è il limite massimo che un container non può superare. Quasi sempre è opportuno impostarli entrambi.
La CPU si misura in millicore
La CPU si misura in millicore: 1000m equivalgono a un core intero. Richiedere 500m significa garantire al Pod del modello metà di un core CPU.
resources:
requests:
cpu: "500m"
memory: "512Mi"
limits:
cpu: "1"
memory: "1Gi"La memoria usa Mi e Gi
La memoria si imposta in mebibyte o gibibyte, ad esempio 512Mi o 2Gi. Dimensionatela in base al modello e al relativo runtime, lasciando anche un piccolo margine.
Un valore troppo basso lascia il Pod in Pending
Se nessun nodo può soddisfare le requests, il Pod rimane indefinitamente in stato Pending. I modelli GPU di grandi dimensioni spesso attendono semplicemente perché non c'è spazio libero sufficiente.
OOMKilled quando si supera la memoria
Se supera il limit di memoria, il kernel termina il container con lo stato OOMKilled. Dimensionare correttamente i limit impedisce che il server del modello venga terminato durante una richiesta. 💥
I limiti CPU rallentano, non terminano
A differenza della memoria, superare un limit CPU non termina il Pod. Il container viene semplicemente limitato, quindi la latenza aumenta invece di provocare l'arresto del processo.
Le GPU vengono richieste come limits
Le GPU sono una risorsa estesa. Vanno richieste solo sotto limits con nvidia.com/gpu e il valore deve essere un numero intero, mai una frazione.
resources:
limits:
nvidia.com/gpu: 1Una GPU non è condivisa nel tempo
Una richiesta di GPU assegna per impostazione predefinita l'intero dispositivo a quel Pod. Due Pod non possono condividere liberamente una scheda senza una configurazione speciale con MIG o time-slicing.
Il device plugin rende visibili le GPU
I nodi pubblicizzano le GPU solo dopo l'esecuzione del device plugin NVIDIA. Senza plugin non esiste la risorsa nvidia.com/gpu e il Pod GPU rimane in Pending.
Il dimensionamento corretto fa risparmiare
Richiedere troppo spreca nodi interi; richiedere troppo poco aumenta il rischio di eviction. Osservare l'utilizzo reale e regolare le requests permette di mantenere il serving stabile ed economico.
Verifica rapida
Che cosa accade quando un container supera il proprio limite di memoria?
Riepilogo
Dichiari requests e limits per CPU e memoria, richieda GPU intere sotto limits e dimensioni le risorse in base all'utilizzo reale per mantenere integri i Pod del modello. ✅
Domande Frequenti
La lezione «Richiedere CPU, memoria e GPU» è gratuita?
Sì — il testo completo di «Richiedere CPU, memoria e GPU» è gratuito qui sul web. Per esercitarvi in modo interattivo (un editor di codice integrato e un tutor IA 24/7) e sbloccare il resto del corso MLOps Academy, passa a CoddyKit PRO. Il corso MLOps Academy include 4 lezioni in totale.
Cosa imparerò in «Richiedere CPU, memoria e GPU»?
Imposti i limiti delle risorse affinché i pod vengano pianificati correttamente. Eserciti MLOps Academy con codice pratico che esegui direttamente nel browser, e un tutor IA 24/7 risponde alle tue domande mentre lavori sulla lezione.
Ho bisogno di esperienza per iniziare MLOps Academy?
Non è richiesta alcuna esperienza precedente. MLOps Academy su CoddyKit è strutturato per principianti e studenti avanzati, quindi puoi iniziare da qui o dall'inizio e procedere al tuo ritmo. Questa è la lezione 2 di 4.
Quanto tempo richiede la lezione «Richiedere CPU, memoria e GPU»?
La maggior parte delle lezioni CoddyKit richiede circa 5–10 minuti. Ogni lezione è breve e interattiva, quindi fai progressi costanti e riprendi esattamente da dove hai lasciato su web e app.
Posso scrivere ed eseguire codice in questa lezione MLOps Academy?
Sì. Ogni lezione MLOps Academy include un editor di codice integrato, quindi scrivi ed esegui codice reale direttamente nel tuo browser e ricevi feedback istantaneo dall'IA — nessuna configurazione locale necessaria.
Tutte le lezioni di questo corso
- Pod, deployment e service per i modelli
- Richiedere CPU, memoria e GPU
- Configurare con ConfigMap e Secret
- Eseguire l'addestramento come Kubernetes Job