0Pricing
Learn AI with Python · Lektion

Cloud-Deployment: AWS SageMaker

SageMaker Model, EndpointConfig, Endpoint, Echtzeit-Inferenz, Batch Transform.

Cloud-Deployment: AWS SageMaker ist eine kostenlose Learn AI with Python-Lektion auf CoddyKit. Dies ist Lektion 2 von 4. Du kannst die komplette Lektion unten kostenlos lesen – dann übst du sie direkt im Browser mit einem integrierten Code-Editor und einem KI-Tutor rund um die Uhr. Sie ist Teil des Learn AI with Python-Lernpfads, und dein Fortschritt wird über Web und CoddyKit-App synchronisiert. Der Learn AI with Python-Kurs umfasst insgesamt 4 Lektionen.

Warum SageMaker

Amazon SageMaker ist ein verwalteter Service zum Trainieren und Bereitstellen von ML-Modellen. Statt Server und Load Balancer selbst bereitzustellen, beschreiben Sie ein Modell, und SageMaker richtet im Hintergrund einen skalierbaren HTTPS-Endpunkt ein.

Die drei Bestandteile

Für eine SageMaker-Bereitstellung benötigen Sie drei Dinge:

  • Ein Container-image_uri (Ihr Serving-Image in ECR oder ein integriertes Framework-Image)
  • Die trainierten Gewichte als model_data, ein tar.gz-Archiv in S3
  • Eine IAM-Rolle, die SageMaker Zugriff auf diese Ressourcen gewährt

Ein Modell definieren

Das Objekt sagemaker.Model verknüpft das Container-Image mit dem Modellartefakt in S3.

import sagemaker
from sagemaker.model import Model

model = Model(
    image_uri="123456789012.dkr.ecr.us-east-1.amazonaws.com/my-model:latest",
    model_data="s3://my-bucket/models/model.tar.gz",
    role="arn:aws:iam::123456789012:role/SageMakerRole",
)

Was steckt in model.tar.gz

SageMaker lädt model_data herunter und entpackt es beim Start in /opt/ml/model im Container. Ihr Serving-Code liest die Gewichte von dort ein. Das Archiv enthält typischerweise die gespeicherte Modelldatei sowie alle Assets für die Vorverarbeitung.

# model.tar.gz contents
# model.pt
# tokenizer.json
# config.json

Einen Echtzeit-Endpunkt bereitstellen

model.deploy startet eine oder mehrere Instanzen hinter einem dauerhaften HTTPS-Endpunkt. Sie wählen den instance_type und die anfängliche Anzahl der Instanzen.

predictor = model.deploy(
    initial_instance_count=1,
    instance_type="ml.m5.xlarge",
    endpoint_name="my-model-endpoint",
)

Den Instanztyp auswählen

Der Instanztyp bestimmt Kosten und Latenz:

  • ml.m5.* Allzweck-CPU, günstig für kleine Modelle
  • ml.c5.* rechenoptimiert
  • ml.g4dn.* / ml.g5.* GPU für Deep-Learning-Inferenz

Stimmen Sie die Instanz auf das Modell ab: Eine GPU wäre für ein winziges scikit-learn-Modell verschwendet.

predict() aufrufen

Nach der Bereitstellung sendet predictor.predict() eine Nutzlast an den Endpunkt und gibt das Inferenzergebnis zurück. SageMaker serialisiert die Anfrage und leitet sie an eine aktive Instanz weiter.

result = predictor.predict({
    "instances": [[5.1, 3.5, 1.4, 0.2]]
})
print(result)

Endpunkte löschen

Echtzeit-Endpunkte werden während des Betriebs sekundengenau abgerechnet. Löschen Sie Endpunkte, die Sie nicht mehr benötigen, immer, da sonst auch bei null Datenverkehr Kosten anfallen.

predictor.delete_endpoint()

Batch Transform für Offline-Aufträge

Wenn Sie einen großen Datensatz einmalig bewerten möchten (nicht für latenzarmes Serving), verwenden Sie batch transform. SageMaker startet Instanzen, verarbeitet einen vollständigen S3-Datensatz, schreibt die Ergebnisse zurück nach S3 und fährt die Instanzen anschließend herunter. Kein dauerhafter Endpunkt, keine Kosten für Leerlauf.

Batch Transform ausführen

Sie erstellen aus dem Modell einen Transformer und verweisen ihn auf Eingabedaten in S3.

transformer = model.transformer(
    instance_count=1,
    instance_type="ml.m5.xlarge",
    output_path="s3://my-bucket/predictions/",
)
transformer.transform(
    data="s3://my-bucket/input/batch.csv",
    content_type="text/csv",
)
transformer.wait()

Echtzeit vs. Batch

Wählen Sie je nach Workload:

  • Echtzeit-Endpunkt: kontinuierliche Anfragen mit niedriger Latenz (z. B. eine Empfehlungs-API)
  • Batch transform: regelmäßiges Scoring großer Datensätze (z. B. nächtliche Churn-Prognosen)

Batch ist deutlich günstiger, wenn Sie keine sofortigen Antworten benötigen.

Kurzer Test

Wann sollten Sie SageMaker batch transform statt eines Echtzeit-Endpunkts verwenden?

Zusammenfassung

Sie haben ein Modell bei AWS SageMaker bereitgestellt:

  • sagemaker.Model verknüpft ein image_uri mit model_data in S3
  • model.deploy erstellt einen Echtzeit-Endpunkt mit einem ausgewählten instance_type
  • predictor.predict() sendet Inferenzanfragen
  • Batch transform verarbeitet große Offline-Workloads kostengünstig
  • Löschen Sie nicht verwendete Endpunkte immer, um Kosten zu vermeiden

Häufig gestellte Fragen

Ist die Lektion „Cloud-Deployment: AWS SageMaker“ kostenlos?

Ja — der vollständige Text von „Cloud-Deployment: AWS SageMaker“ ist hier im Web kostenlos zu lesen. Um sie interaktiv zu üben (integrierter Code-Editor und 24/7 KI-Tutor) und den Rest des Learn AI with Python-Kurses freizuschalten, upgrade auf CoddyKit PRO. Der Learn AI with Python-Kurs umfasst insgesamt 4 Lektionen.

Was lerne ich in „Cloud-Deployment: AWS SageMaker“?

SageMaker Model, EndpointConfig, Endpoint, Echtzeit-Inferenz, Batch Transform. Du übst Learn AI with Python mit praktischem Code, den du direkt im Browser ausführst, und ein 24/7 KI-Tutor beantwortet deine Fragen während du die Lektion bearbeitest.

Brauche ich Erfahrung, um Learn AI with Python zu starten?

Keine Vorkenntnisse erforderlich. Learn AI with Python auf CoddyKit ist für Anfänger bis fortgeschrittene Lernende strukturiert, sodass du hier starten oder von Anfang an beginnen und in deinem eigenen Tempo voranschreiten kannst. Dies ist Lektion 2 von 4.

Wie lange dauert die Lektion „Cloud-Deployment: AWS SageMaker“?

Die meisten CoddyKit-Lektionen dauern etwa 5–10 Minuten. Jede ist kompakt und interaktiv, sodass du stetig Fortschritte machst und genau dort weitermachst, wo du aufgehört hast – im Web und in der App.

Kann ich in dieser Learn AI with Python-Lektion Code schreiben und ausführen?

Ja. Jede Learn AI with Python-Lektion enthält einen integrierten Code-Editor, sodass du echten Code direkt in deinem Browser schreibst und ausführst und sofort KI-Feedback erhältst — ohne lokale Einrichtung erforderlich.

Alle Lektionen in diesem Kurs

  1. ML-Modelle mit Docker containerisieren
  2. Cloud-Deployment: AWS SageMaker
  3. Hochperformantes Serving mit Triton Inference Server
  4. Modell-Endpunkte skalieren und automatisch skalieren
← Zurück zu Learn AI with Python