Örnekleri ve Kopyaları Uygun Boyutlandırın
Donanımı gerçek yük profillerine uygun hâle getirin.
Örnekleri ve Kopyaları Uygun Boyutlandırın, CoddyKit'te ücretsiz bir MLOps Academy dersidir. Bu, 4 dersinin 1. dersidir. Aşağıdan dersin tamamını ücretsiz okuyabilir, sonra tarayıcıda yerleşik kod editörü ve 7/24 yapay zeka koçu ile uygulamalı olarak pratik yapabilirsin. Bu, MLOps Academy öğrenme yolunun bir parçasıdır ve ilerlemeniz web ve CoddyKit uygulaması arasında senkronize olur. MLOps Academy kursu toplamda 4 dersten oluşur.
Kullandığınız Kadar Ödeyin
Makine öğrenmesi sunma maliyetlerinin çoğu, yarı boşta duran örneklerden kaynaklanır. Doğru boyutlandırma, donanımı ve çoğaltma sayısını en kötü durumdaki korkunuza değil, gerçek yükünüze göre eşleştirmek demektir.
Kesmeden Önce Ölçün
Ölçmediğiniz bir şeyi doğru boyutlandıramazsınız. Önce normal bir trafik gününde gerçek CPU ve bellek kullanımını izleyin.
Aşırı Tedarik Tuzağı
Her ihtimale karşı devasa bir örnek seçmek güvenli hissettirebilir, ancak her saat para tüketir. Sürekli düşük kullanım, aşırı tedarikin en açık işaretidir.
Kullanımınızı Okuyun
Ortalama CPU kullanımı yüzde 15 civarındaysa örneğiniz gereğinden çok büyüktür. Kısa süreli artışlar için pay bırakarak sağlıklı bir hedef kullanımı amaçlayın.
kubectl top pods -n servingDikey ve Yatay Ölçekleme
Dikey ölçekleme, tek bir çoğaltmaya daha büyük bir makine verir. Yatay ölçekleme bunun yerine daha fazla küçük çoğaltma ekler; bu genellikle ani yoğunlukların yaşandığı trafiği daha iyi yönetir.
İstekleri ve Sınırları Belirleyin
Kubernetes üzerinde kaynak isteğiniz, zamanlayıcıya her çoğaltmanın gerçekte ne kadar kaynağa ihtiyaç duyduğunu bildirir. Bunu yuvarlak bir tahminden değil, gözlemlenen kullanımdan belirleyin.
resources:
requests:
cpu: "500m"
memory: "1Gi"Doğru Çoğaltma Sayısını Seçin
Çok az çoğaltma, kuyruğa alınmış isteklere ve yavaş yanıtlara yol açar. Çok fazla çoğaltma ise yine ücretini ödediğiniz boş pod'lar demektir. Çoğaltmaları en yüksek eşzamanlı yükünüze göre boyutlandırın.
Otomatik Ölçeklemenin Talebi İzlemesini Sağlayın
Yatay Pod Otomatik Ölçekleyici, yük arttığında çoğaltmalar ekler, azaldığında bunları kaldırır; böylece yoğun olmayan dönem kapasitesi için ödeme yapmayı bırakırsınız.
kubectl autoscale deploy model --min 2 --max 10 --cpu-percent 60Bir Güvenlik Tabanı Tutun
Minimum çoğaltma sayısı birkaç pod'u hazır tutar; böylece trafik soğuk ve boş bir hizmetle karşılaşmaz. Bu, maliyet ile kullanılabilirlik arasındaki dengenizdir.
GPU Makineleri Pahalıdır
GPU örnekleri CPU'dan kat kat daha pahalıdır. Yalnızca modeliniz gerçekten ihtiyaç duyduğunda bir GPU isteyin ve boşta kalmaması için işleri yoğun biçimde paketleyin.
Doğru Boyutlandırma Süreklidir
Trafik düzenleri haftalar ve aylar içinde değişir. Filonuzun iyi bir uyum içinde kalması için örnek türünü ve çoğaltma sayılarını belirli aralıklarla yeniden değerlendirin.
Hızlı Kontrol
Düşük kullanımın size ne anlattığına bakalım.
Özet
Kullanımı ölçtünüz, dikey ve yatay ölçekleme arasında seçim yaptınız, istekleri belirlediniz ve otomatik ölçekleme eklediniz. Filonuz artık gerçek taleple eşleşiyor. 💸
Yapay zeka eğitmeniyle Python öğren — ücretsiz
Tarayıcında gerçek kod yaz ve çalıştır, 7/24 yapay zeka eğitmeninden anında yardım al; web'de ya da uygulamada kaldığın yerden devam et.
- Kurslar
- 30
- Dersler
- 120
Sıkça Sorulan Sorular
“Örnekleri ve Kopyaları Uygun Boyutlandırın” dersi ücretsiz mi?
Evet — “Örnekleri ve Kopyaları Uygun Boyutlandırın” dersin tüm metni burada web'de ücretsiz olarak okunabilir. Etkileşimli olarak pratik yapmak (yerleşik kod editörü ve 7/24 yapay zeka koçu) ve MLOps Academy kursunun geri kalanını açmak için CoddyKit PRO'ya yükselt. MLOps Academy kursu toplamda 4 dersten oluşur.
“Örnekleri ve Kopyaları Uygun Boyutlandırın” dersinde ne öğreneceğim?
Donanımı gerçek yük profillerine uygun hâle getirin. MLOps Academy ile uygulamalı kodu tarayıcıda doğrudan çalıştırarak pratik yaparsın ve 7/24 yapay zeka koçu dersi çalışırken sorularını yanıtlar.
MLOps Academy öğrenmeye başlamak için deneyim gerekli mi?
Önceden deneyim gerekmez. CoddyKit'te MLOps Academy, başlangıçtan ileri seviyeye kadar yapılandırıldığı için buradan başlayabilir veya başından başlayıp kendi hızında ilerleme yapabilirsin. Bu, 4 dersinin 1. dersidir.
“Örnekleri ve Kopyaları Uygun Boyutlandırın” dersi ne kadar sürer?
Çoğu CoddyKit dersi yaklaşık 5–10 dakika sürer. Her biri kısa ve etkileşimli olduğu için sabit ilerleme yaparsın ve web ile uygulama arasında tam olarak bıraktığın yerden devam edebilirsin.
Bu MLOps Academy dersinde kod yazıp çalıştırabilir miyim?
Evet. Her MLOps Academy dersi yerleşik bir kod editörü içerir, bu sayede tarayıcıda gerçek kod yazıp çalıştırabilir ve anlık yapay zeka geri bildirimi alırsın — yerel kurulum gerekli değildir.
Bu kursun tüm dersleri
- Örnekleri ve Kopyaları Uygun Boyutlandırın
- Daha Ucuz Çıkarım için Nicemleyin ve Damıtın
- Eğitim için Spot Örnekleri Kullanın
- Tahmin Başına Maliyeti İzleyin