Pelajari AI dengan Python · Pelajaran

Pelaksanaan Awan: AWS SageMaker

SageMaker Model, EndpointConfig, Endpoint, inferens masa nyata, transformasi kelompok.

Pelajaran 2 daripada 413 langkah

Pelaksanaan Awan: AWS SageMaker ialah pelajaran Pelajari AI dengan Python percuma di CoddyKit. Ini ialah pelajaran 2 daripada 4. Sebanyak 3 pelajaran dalam laluan pembelajaran ini boleh dibaca sepenuhnya secara percuma — selepas itu, CoddyKit PRO membuka akses kepada semua pelajaran, serta latihan praktikal dengan penyunting kod terbina dalam dan tutor kecerdasan buatan yang tersedia 24/7. Pelajaran ini merupakan sebahagian daripada laluan pembelajaran Pelajari AI dengan Python, dan kemajuan anda disegerakkan merentas web serta aplikasi CoddyKit. Kursus Pelajari AI dengan Python merangkumi sejumlah 4 pelajaran.

Mengapa SageMaker

Amazon SageMaker ialah perkhidmatan terurus untuk melatih dan melaksanakan model ML. Daripada menyediakan pelayan dan pengimbang beban sendiri, anda menerangkan model dan SageMaker menyediakan titik akhir HTTPS yang boleh diskalakan secara dalaman.

Tiga Komponen

Pelaksanaan SageMaker memerlukan tiga perkara:

Satu image_uri kontena (imej penyajian anda dalam ECR atau imej rangka kerja terbina dalam)
Pemberat terlatih sebagai model_data, iaitu fail tar.gz dalam S3
Satu peranan IAM yang memberikan SageMaker akses kepada sumber tersebut

Menakrifkan Model

Objek sagemaker.Model menghubungkan imej kontena dengan artifak model dalam S3.

import sagemaker
from sagemaker.model import Model

model = Model(
    image_uri="123456789012.dkr.ecr.us-east-1.amazonaws.com/my-model:latest",
    model_data="s3://my-bucket/models/model.tar.gz",
    role="arn:aws:iam::123456789012:role/SageMakerRole",
)

Kandungan model.tar.gz

SageMaker memuat turun dan mengekstrak model_data ke dalam /opt/ml/model di dalam kontena semasa permulaan. Kod penyajian anda membaca pemberat dari situ. Arkib ini biasanya mengandungi fail model yang disimpan bersama aset prapemprosesan yang diperlukan.

# model.tar.gz contents
# model.pt
# tokenizer.json
# config.json

Melaksanakan Titik Akhir Masa Nyata

model.deploy melancarkan satu atau lebih instans di belakang titik akhir HTTPS yang berterusan. Anda memilih instance_type dan bilangan awal instans.

predictor = model.deploy(
    initial_instance_count=1,
    instance_type="ml.m5.xlarge",
    endpoint_name="my-model-endpoint",
)

Memilih Jenis Instans

Jenis instans menentukan kos dan kependaman:

ml.m5.* CPU kegunaan umum, murah untuk model kecil
ml.c5.* dioptimumkan untuk pengiraan
ml.g4dn.* / ml.g5.* GPU untuk inferens pembelajaran mendalam

Pilih instans yang sepadan dengan model: GPU akan terbazir untuk model scikit-learn yang kecil.

Memanggil predict()

Selepas dilaksanakan, predictor.predict() menghantar muatan kepada titik akhir dan mengembalikan hasil inferens. SageMaker mensiriankan permintaan dan menghalakannya kepada instans yang aktif.

result = predictor.predict({
    "instances": [[5.1, 3.5, 1.4, 0.2]]
})
print(result)

Memadam Titik Akhir

Titik akhir masa nyata mengenakan bayaran bagi setiap saat semasa berjalan. Sentiasa padam titik akhir yang tidak lagi diperlukan, jika tidak, caj akan terus terkumpul walaupun tiada trafik.

predictor.delete_endpoint()

Transformasi Kelompok untuk Kerja Luar Talian

Untuk memberikan skor kepada set data yang besar sekali sahaja (bukan penyajian dengan kependaman rendah), gunakan transformasi kelompok. SageMaker menyediakan instans, memproses keseluruhan set data S3, menulis hasil kembali ke S3, kemudian mematikan instans tersebut. Tiada titik akhir berterusan dan tiada kos ketika melahu.

Menjalankan Transformasi Kelompok

Anda mencipta penukar daripada model dan mengarahkannya kepada data masukan dalam S3.

transformer = model.transformer(
    instance_count=1,
    instance_type="ml.m5.xlarge",
    output_path="s3://my-bucket/predictions/",
)
transformer.transform(
    data="s3://my-bucket/input/batch.csv",
    content_type="text/csv",
)
transformer.wait()

Masa Nyata berbanding Kelompok

Buat pilihan berdasarkan beban kerja:

titik akhir masa nyata: permintaan berterusan dengan kependaman rendah (contohnya API pengesyoran)
transformasi kelompok: pemberian skor berkala pada set data besar (contohnya ramalan pelanggan berhenti setiap malam)

Kelompok jauh lebih murah apabila anda tidak memerlukan respons serta-merta.

Uji Pantas

Bilakah anda patut menggunakan transformasi kelompok SageMaker berbanding titik akhir masa nyata?

Jawab dalam pelajaran interaktif

Ringkasan

Anda telah melaksanakan model pada AWS SageMaker:

sagemaker.Model menghubungkan image_uri dengan model_data dalam S3
model.deploy mencipta titik akhir masa nyata pada instance_type yang dipilih
predictor.predict() menghantar permintaan inferens
Transformasi kelompok mengendalikan beban kerja luar talian yang besar dengan kos rendah
Sentiasa padam titik akhir yang melahu untuk mengelakkan caj

Percuma untuk bermula

Pelajari Python dengan tutor kecerdasan buatan — percuma

Tulis dan jalankan kod sebenar dalam pelayar anda, dapatkan bantuan segera daripada tutor kecerdasan buatan yang tersedia 24/7, dan sambung semula dari tempat anda berhenti di web atau dalam aplikasi.

Kursus: 53
Pelajaran: 225

Mula belajar secara percuma Lihat kursus penuh

Soalan Lazim

Adakah pelajaran “Pelaksanaan Awan: AWS SageMaker” percuma?

Ya — sebanyak 3 pelajaran dalam laluan pembelajaran Pelajari AI dengan Python, termasuk “Pelaksanaan Awan: AWS SageMaker”, boleh dibaca sepenuhnya secara percuma di web ini. Selepas itu, CoddyKit PRO membuka akses kepada semua pelajaran, serta latihan interaktif dengan penyunting kod terbina dalam dan tutor kecerdasan buatan yang tersedia 24/7. Kursus Pelajari AI dengan Python merangkumi sejumlah 4 pelajaran.

Apakah yang akan saya pelajari dalam “Pelaksanaan Awan: AWS SageMaker”?

SageMaker Model, EndpointConfig, Endpoint, inferens masa nyata, transformasi kelompok. Anda berlatih Pelajari AI dengan Python menggunakan kod praktikal yang dijalankan terus dalam pelayar, manakala tutor kecerdasan buatan 24/7 menjawab soalan anda semasa anda mengikuti pelajaran.

Adakah saya memerlukan pengalaman untuk memulakan Pelajari AI dengan Python?

Tiada pengalaman terdahulu diperlukan. Pembelajaran Pelajari AI dengan Python di CoddyKit disusun untuk pelajar daripada peringkat pemula hingga lanjutan, jadi anda boleh bermula di sini atau dari awal dan belajar mengikut kadar anda sendiri. Ini ialah pelajaran 2 daripada 4.

Berapa lamakah pelajaran “Pelaksanaan Awan: AWS SageMaker” diambil?

Kebanyakan pelajaran CoddyKit mengambil masa kira-kira 5–10 minit. Setiap pelajaran ringkas dan interaktif, jadi anda boleh membuat kemajuan secara berterusan dan menyambung tepat dari tempat anda berhenti di web atau aplikasi.

Bolehkah saya menulis dan menjalankan kod dalam pelajaran Pelajari AI dengan Python ini?

Ya. Setiap pelajaran Pelajari AI dengan Python menyertakan penyunting kod terbina dalam, jadi anda boleh menulis dan menjalankan kod sebenar terus dalam pelayar serta menerima maklum balas kecerdasan buatan serta-merta — tanpa memerlukan persediaan setempat.

Semua pelajaran dalam kursus ini

Membungkus Model Pembelajaran Mesin dalam Kontena dengan Docker
Pelaksanaan Awan: AWS SageMaker
Penyajian Berprestasi Tinggi dengan Triton Inference Server
Penskalaan dan Penskalaan Automatik Titik Akhir Model

← Kembali ke Pelajari AI dengan Python