Buluta Dağıtım: AWS SageMaker
SageMaker Model, EndpointConfig, Endpoint, gerçek zamanlı çıkarım, toplu dönüştürme.
Buluta Dağıtım: AWS SageMaker, CoddyKit'te ücretsiz bir Learn AI with Python dersidir. Bu, 4 dersinin 2. dersidir. Aşağıdan dersin tamamını ücretsiz okuyabilir, sonra tarayıcıda yerleşik kod editörü ve 7/24 yapay zeka koçu ile uygulamalı olarak pratik yapabilirsin. Bu, Learn AI with Python öğrenme yolunun bir parçasıdır ve ilerlemeniz web ve CoddyKit uygulaması arasında senkronize olur. Learn AI with Python kursu toplamda 4 dersten oluşur.
SageMaker Neden Kullanılır
Amazon SageMaker, makine öğrenimi modellerini eğitmek ve dağıtmak için kullanılan yönetilen bir hizmettir. Sunucuları ve yük dengeleyicileri kendiniz hazırlamak yerine bir modeli tanımlarsınız; SageMaker arka planda ölçeklenebilir bir HTTPS uç noktası oluşturur.
Üç Temel Bileşen
Bir SageMaker dağıtımı için üç şey gerekir:
- Bir kapsayıcı image_uri'si (ECR'deki hizmet sunum imajınız veya yerleşik bir çerçeve imajı)
- model_data olarak eğitilmiş ağırlıklar; S3'te bulunan bir tar.gz arşivi
- SageMaker'a bu kaynaklara erişim izni veren bir IAM rolü
Model Tanımlama
sagemaker.Model nesnesi, kapsayıcı imajını S3'teki model yapıtına bağlar.
import sagemaker
from sagemaker.model import Model
model = Model(
image_uri="123456789012.dkr.ecr.us-east-1.amazonaws.com/my-model:latest",
model_data="s3://my-bucket/models/model.tar.gz",
role="arn:aws:iam::123456789012:role/SageMakerRole",
)model.tar.gz İçeriği
SageMaker, başlangıçta model_data'yı indirir ve kapsayıcının içindeki /opt/ml/model konumuna çıkarır. Hizmet sunum kodunuz ağırlıkları buradan okur. Arşivde genellikle kaydedilmiş model dosyası ile ön işleme için gereken varlıklar bulunur.
# model.tar.gz contents
# model.pt
# tokenizer.json
# config.jsonGerçek Zamanlı Uç Nokta Dağıtma
model.deploy, kalıcı bir HTTPS uç noktasının arkasında bir veya daha fazla örnek başlatır. instance_type'ı ve başlangıçtaki örnek sayısını seçersiniz.
predictor = model.deploy(
initial_instance_count=1,
instance_type="ml.m5.xlarge",
endpoint_name="my-model-endpoint",
)Örnek Türü Seçme
Örnek türü maliyeti ve gecikmeyi belirler:
ml.m5.*genel amaçlı CPU; küçük modeller için ekonomiktirml.c5.*işlem için optimize edilmiştirml.g4dn.*/ml.g5.*derin öğrenme çıkarımı için GPU kullanır
Örneği modele uygun seçin: küçük bir scikit-learn modeli için GPU kullanmak kaynak israfıdır.
predict() Çağrısı
Dağıtım tamamlandıktan sonra predictor.predict(), uç noktaya bir yük gönderir ve çıkarım sonucunu döndürür. SageMaker isteği serileştirir ve çalışan bir örneğe yönlendirir.
result = predictor.predict({
"instances": [[5.1, 3.5, 1.4, 0.2]]
})
print(result)Uç Noktaları Temizleme
Gerçek zamanlı uç noktaları çalıştıkları her saniye için ücretlendirilir. Artık ihtiyacınız olmayan uç noktaları her zaman silin; aksi takdirde hiç trafik olmasa bile ücret birikmeye devam eder.
predictor.delete_endpoint()Çevrim Dışı İşler için Toplu Dönüştürme
Büyük bir veri kümesini bir kez puanlamak için (düşük gecikmeli hizmet sunumu için değil) toplu dönüştürme kullanın. SageMaker örnekleri başlatır, S3'teki veri kümesinin tamamını işler, sonuçları yeniden S3'e yazar ve ardından örnekleri kapatır. Kalıcı uç nokta yoktur, boşta kalma maliyeti yoktur.
Toplu Dönüştürme Çalıştırma
Modelden bir dönüştürücü oluşturur ve bunu S3'teki giriş verilerine yönlendirirsiniz.
transformer = model.transformer(
instance_count=1,
instance_type="ml.m5.xlarge",
output_path="s3://my-bucket/predictions/",
)
transformer.transform(
data="s3://my-bucket/input/batch.csv",
content_type="text/csv",
)
transformer.wait()Gerçek Zamanlı ve Toplu İşleme
İş yüküne göre seçim yapın:
- Gerçek zamanlı uç nokta: sürekli, düşük gecikmeli istekler (ör. bir öneri API'si)
- Toplu dönüştürme: büyük veri kümelerinin periyodik olarak puanlanması (ör. her gece yapılan müşteri kaybı tahminleri)
Anında yanıt almanız gerekmiyorsa toplu işleme çok daha ucuzdur.
Hızlı Kontrol
Gerçek zamanlı bir uç nokta yerine SageMaker toplu dönüştürmesini ne zaman kullanmalısınız?
Özet
AWS SageMaker'a bir model dağıttınız:
sagemaker.Model, bir image_uri'yi S3'teki model_data'ya bağlarmodel.deploy, seçilen bir instance_type üzerinde gerçek zamanlı bir uç nokta oluştururpredictor.predict(), çıkarım istekleri gönderir- Toplu dönüştürme, büyük çevrim dışı iş yüklerini düşük maliyetle işler
- Ücretlerden kaçınmak için boşta olan uç noktaları her zaman silin
Sıkça Sorulan Sorular
“Buluta Dağıtım: AWS SageMaker” dersi ücretsiz mi?
Evet — “Buluta Dağıtım: AWS SageMaker” dersin tüm metni burada web'de ücretsiz olarak okunabilir. Etkileşimli olarak pratik yapmak (yerleşik kod editörü ve 7/24 yapay zeka koçu) ve Learn AI with Python kursunun geri kalanını açmak için CoddyKit PRO'ya yükselt. Learn AI with Python kursu toplamda 4 dersten oluşur.
“Buluta Dağıtım: AWS SageMaker” dersinde ne öğreneceğim?
SageMaker Model, EndpointConfig, Endpoint, gerçek zamanlı çıkarım, toplu dönüştürme. Learn AI with Python ile uygulamalı kodu tarayıcıda doğrudan çalıştırarak pratik yaparsın ve 7/24 yapay zeka koçu dersi çalışırken sorularını yanıtlar.
Learn AI with Python öğrenmeye başlamak için deneyim gerekli mi?
Önceden deneyim gerekmez. CoddyKit'te Learn AI with Python, başlangıçtan ileri seviyeye kadar yapılandırıldığı için buradan başlayabilir veya başından başlayıp kendi hızında ilerleme yapabilirsin. Bu, 4 dersinin 2. dersidir.
“Buluta Dağıtım: AWS SageMaker” dersi ne kadar sürer?
Çoğu CoddyKit dersi yaklaşık 5–10 dakika sürer. Her biri kısa ve etkileşimli olduğu için sabit ilerleme yaparsın ve web ile uygulama arasında tam olarak bıraktığın yerden devam edebilirsin.
Bu Learn AI with Python dersinde kod yazıp çalıştırabilir miyim?
Evet. Her Learn AI with Python dersi yerleşik bir kod editörü içerir, bu sayede tarayıcıda gerçek kod yazıp çalıştırabilir ve anlık yapay zeka geri bildirimi alırsın — yerel kurulum gerekli değildir.
Bu kursun tüm dersleri
- Docker ile Makine Öğrenmesi Modellerini Konteynerleştirme
- Buluta Dağıtım: AWS SageMaker
- Triton Inference Server ile Yüksek Performanslı Sunum
- Model Uç Noktalarını Ölçeklendirme ve Otomatik Ölçeklendirme