Minta CPU, Memori dan GPU
Tetapkan had sumber supaya pod dijadualkan dengan betul.
Minta CPU, Memori dan GPU ialah pelajaran MLOps Academy percuma di CoddyKit. Ini ialah pelajaran 2 daripada 4. Anda boleh membaca keseluruhan pelajaran di bawah secara percuma — kemudian berlatih secara praktikal dalam pelayar menggunakan penyunting kod terbina dalam dan tutor kecerdasan buatan 24/7. Pelajaran ini merupakan sebahagian daripada laluan pembelajaran MLOps Academy, dan kemajuan anda disegerakkan merentas web serta aplikasi CoddyKit. Kursus MLOps Academy merangkumi sejumlah 4 pelajaran.
Penjadual Memerlukan Nombor
Kubernetes meletakkan Pod pada nod yang mempunyai ruang. Untuk membuat keputusan, penjadual memerlukan anda mengisytiharkan jumlah CPU dan memori yang akan digunakan oleh setiap Pod model.
Permintaan Berbanding Had
Permintaan ialah jumlah yang dijamin dan digunakan untuk penjadualan. Had ialah siling yang tidak boleh dilepasi oleh bekas. Anda hampir selalu menetapkan kedua-duanya.
CPU Diukur dalam Militeras
CPU dikira dalam militeras: 1000m bersamaan satu teras penuh. Meminta 500m bermakna Pod model anda dijanjikan separuh daripada satu teras CPU.
resources:
requests:
cpu: "500m"
memory: "512Mi"
limits:
cpu: "1"
memory: "1Gi"Memori Menggunakan Mi dan Gi
Memori ditetapkan dalam mebibait atau gibibait, seperti 512Mi atau 2Gi. Saizkan mengikut model serta masa jalannya, dengan sedikit ruang tambahan.
Terlalu Rendah Menyebabkan Pod Kekal Tertangguh
Jika tiada nod dapat memenuhi permintaan anda, Pod akan kekal dalam keadaan Pending. Model GPU yang besar sering menunggu hanya kerana tiada ruang kosong yang cukup besar.
OOMKilled Apabila Memori Melebihi Had
Jika anda melebihi had memori, kernel akan mematikan bekas dengan status OOMKilled. Menyesuaikan had dengan betul mengelakkan pelayan model anda dihentikan ketika mengendalikan permintaan. 💥
Had CPU Mengehadkan, Bukan Mematikan
Tidak seperti memori, pelanggaran had CPU tidak mematikan Pod. Bekas hanya dihadkan, jadi kependaman meningkat dan bukannya proses terhenti.
GPU Diminta sebagai Had
GPU ialah sumber lanjutan. Anda hanya memintanya di bawah had dengan nvidia.com/gpu, dan nilainya mestilah nombor bulat, bukan pecahan.
resources:
limits:
nvidia.com/gpu: 1GPU Tidak Dikongsi Mengikut Masa
Satu permintaan GPU secara lalai mengambil keseluruhan peranti untuk Pod tersebut. Dua Pod tidak boleh berkongsi kad sesuka hati tanpa persediaan MIG atau pembahagian masa khas.
Pemalam Peranti Menjadikan GPU Kelihatan
Nod hanya mengiklankan GPU selepas pemalam peranti NVIDIA dijalankan padanya. Tiada pemalam bermakna tiada sumber nvidia.com/gpu, dan Pod GPU anda kekal Pending.
Penyesuaian Saiz Menjimatkan Kos
Permintaan berlebihan membazirkan keseluruhan nod; permintaan yang terlalu rendah berisiko menyebabkan pengusiran. Memantau penggunaan sebenar dan melaraskan permintaan memastikan penyajian anda stabil serta murah.
Semakan Ringkas
Apakah yang berlaku apabila bekas melebihi had memorinya?
Ringkasan
Isytiharkan permintaan dan had untuk CPU serta memori, minta GPU dalam nombor bulat di bawah had, dan sesuaikan saiz berdasarkan penggunaan sebenar supaya Pod model kekal sihat. ✅
Pelajari Python dengan tutor kecerdasan buatan — percuma
Tulis dan jalankan kod sebenar dalam pelayar anda, dapatkan bantuan segera daripada tutor kecerdasan buatan yang tersedia 24/7, dan sambung semula dari tempat anda berhenti di web atau dalam aplikasi.
- Kursus
- 30
- Pelajaran
- 120
Soalan Lazim
Adakah pelajaran “Minta CPU, Memori dan GPU” percuma?
Ya — teks penuh “Minta CPU, Memori dan GPU” boleh dibaca secara percuma di web ini. Untuk berlatih secara interaktif menggunakan penyunting kod terbina dalam dan tutor kecerdasan buatan 24/7, serta membuka kunci baki kursus MLOps Academy, tingkat taraf kepada CoddyKit PRO. Kursus MLOps Academy merangkumi sejumlah 4 pelajaran.
Apakah yang akan saya pelajari dalam “Minta CPU, Memori dan GPU”?
Tetapkan had sumber supaya pod dijadualkan dengan betul. Anda berlatih MLOps Academy menggunakan kod praktikal yang dijalankan terus dalam pelayar, manakala tutor kecerdasan buatan 24/7 menjawab soalan anda semasa anda mengikuti pelajaran.
Adakah saya memerlukan pengalaman untuk memulakan MLOps Academy?
Tiada pengalaman terdahulu diperlukan. Pembelajaran MLOps Academy di CoddyKit disusun untuk pelajar daripada peringkat pemula hingga lanjutan, jadi anda boleh bermula di sini atau dari awal dan belajar mengikut kadar anda sendiri. Ini ialah pelajaran 2 daripada 4.
Berapa lamakah pelajaran “Minta CPU, Memori dan GPU” diambil?
Kebanyakan pelajaran CoddyKit mengambil masa kira-kira 5–10 minit. Setiap pelajaran ringkas dan interaktif, jadi anda boleh membuat kemajuan secara berterusan dan menyambung tepat dari tempat anda berhenti di web atau aplikasi.
Bolehkah saya menulis dan menjalankan kod dalam pelajaran MLOps Academy ini?
Ya. Setiap pelajaran MLOps Academy menyertakan penyunting kod terbina dalam, jadi anda boleh menulis dan menjalankan kod sebenar terus dalam pelayar serta menerima maklum balas kecerdasan buatan serta-merta — tanpa memerlukan persediaan setempat.
Semua pelajaran dalam kursus ini
- Pod, Deployment dan Service untuk Model
- Minta CPU, Memori dan GPU
- Konfigurasikan dengan ConfigMaps dan Secrets
- Jalankan Latihan sebagai Tugas Kubernetes