Minta CPU, Memori, dan GPU
Tetapkan batas sumber daya agar pod dijadwalkan dengan benar.
Minta CPU, Memori, dan GPU adalah pelajaran MLOps Academy gratis di CoddyKit. Ini adalah pelajaran 2 dari 4. Kamu bisa membaca pelajaran lengkapnya di bawah secara gratis — lalu praktikkan langsung di browser dengan editor kode bawaan dan tutor AI 24/7. Ini adalah bagian dari jalur belajar MLOps Academy, dan progresmu tersinkronisasi di web dan aplikasi CoddyKit. Kursus MLOps Academy mencakup 4 pelajaran total.
Penjadwal Memerlukan Angka
Kubernetes menempatkan Pod pada node yang memiliki ruang. Untuk mengambil keputusan, penjadwal memerlukan deklarasi jumlah CPU dan memori yang akan digunakan setiap Pod model.
Permintaan dan Batas
Permintaan adalah jumlah yang dijamin dan digunakan untuk penjadwalan. Batas adalah nilai maksimum yang tidak boleh dilampaui kontainer. Anda hampir selalu menetapkan keduanya.
CPU Diukur dalam Milicore
CPU dihitung dalam milicore: 1000m sama dengan satu inti penuh. Meminta 500m berarti Pod model Anda dijamin memperoleh setengah inti CPU.
resources:
requests:
cpu: "500m"
memory: "512Mi"
limits:
cpu: "1"
memory: "1Gi"Memori Menggunakan Mi dan Gi
Memori ditetapkan dalam mebibita atau gibibita, seperti 512Mi atau 2Gi. Sesuaikan ukurannya dengan model dan runtime-nya, serta sisakan sedikit ruang tambahan.
Terlalu Rendah Membuat Pod Tetap Tertunda
Jika tidak ada node yang dapat memenuhi permintaan Anda, Pod akan tetap berstatus Pending. Model GPU besar sering kali menunggu hanya karena tidak ada ruang kosong yang cukup besar.
OOMKilled Saat Memori Terlampaui
Lampaui batas memori dan kernel akan menghentikan kontainer dengan status OOMKilled. Menyesuaikan batas dengan tepat mencegah server model dihentikan di tengah permintaan. 💥
Batas CPU Melakukan Pembatasan, Bukan Penghentian
Tidak seperti memori, pelampauan batas CPU tidak menghentikan Pod. Kontainer hanya dibatasi, sehingga latensi meningkat alih-alih proses berhenti.
GPU Diminta sebagai Batas
GPU adalah sumber daya tambahan. Anda hanya memintanya di bawah batas dengan nvidia.com/gpu, dan nilainya harus berupa bilangan bulat, bukan pecahan.
resources:
limits:
nvidia.com/gpu: 1GPU Tidak Berbagi Waktu
Satu permintaan GPU secara bawaan mengambil seluruh perangkat untuk Pod tersebut. Dua Pod tidak dapat begitu saja berbagi kartu tanpa konfigurasi MIG atau pembagian waktu khusus.
Plugin Perangkat Membuat GPU Terlihat
Node hanya mengiklankan GPU setelah plugin perangkat NVIDIA berjalan di dalamnya. Tanpa plugin, tidak ada sumber daya nvidia.com/gpu dan Pod GPU Anda tetap berstatus Pending.
Penyesuaian Ukuran Menghemat Biaya
Permintaan berlebihan membuang seluruh node; permintaan yang terlalu rendah berisiko menyebabkan pengusiran. Memantau penggunaan nyata dan menyesuaikan permintaan membuat penyajian model tetap stabil dan murah.
Pemeriksaan Singkat
Apa yang terjadi saat kontainer melampaui batas memorinya?
Rangkuman
Deklarasikan permintaan dan batas untuk CPU serta memori, minta GPU dalam bilangan bulat di bawah batas, lalu sesuaikan ukuran berdasarkan penggunaan nyata agar Pod model tetap sehat. ✅
Belajar Python dengan tutor AI — gratis
Tulis dan jalankan kode asli di browser kamu, dapatkan bantuan instan dari tutor AI 24/7, dan lanjutkan di mana kamu tinggalkan di web atau aplikasi.
- Kursus
- 30
- Pelajaran
- 120
Pertanyaan yang Sering Diajukan
Apakah pelajaran “Minta CPU, Memori, dan GPU” gratis?
Ya — teks lengkap “Minta CPU, Memori, dan GPU” gratis dibaca di sini di web. Untuk praktiknya secara interaktif (editor kode bawaan dan tutor AI 24/7) dan buka sisa kursus MLOps Academy, upgrade ke CoddyKit PRO. Kursus MLOps Academy mencakup 4 pelajaran total.
Apa yang akan aku pelajari di “Minta CPU, Memori, dan GPU”?
Tetapkan batas sumber daya agar pod dijadwalkan dengan benar. Kamu berlatih MLOps Academy dengan kode praktik yang langsung kamu jalankan di browser, dan tutor AI 24/7 menjawab pertanyaanmu saat kamu mengerjakan pelajaran ini.
Apakah aku perlu pengalaman untuk memulai MLOps Academy?
Tidak diperlukan pengalaman sebelumnya. MLOps Academy di CoddyKit dirancang untuk pemula hingga pelajar tingkat lanjut, jadi kamu bisa memulai di sini atau dari awal dan belajar sesuai kecepatan kamu sendiri. Ini adalah pelajaran 2 dari 4.
Berapa lama pelajaran “Minta CPU, Memori, dan GPU” memakan waktu?
Sebagian besar pelajaran CoddyKit memakan waktu sekitar 5–10 menit. Setiap pelajaran ringkas dan interaktif, jadi kamu membuat kemajuan stabil dan melanjutkan dari tempat kamu tinggalkan di web dan aplikasi.
Bisakah aku menulis dan menjalankan kode dalam pelajaran MLOps Academy ini?
Ya. Setiap pelajaran MLOps Academy menyertakan editor kode bawaan, jadi kamu menulis dan menjalankan kode nyata langsung di browser dan mendapatkan umpan balik AI instan — tidak diperlukan penyiapan lokal.
Semua pelajaran dalam kursus ini
- Pod, Deployment, dan Service untuk Model
- Minta CPU, Memori, dan GPU
- Konfigurasikan dengan ConfigMaps dan Secrets
- Jalankan Pelatihan sebagai Kubernetes Job