Fitur yang Disediakan MAX

MAX adalah mesin berperforma tinggi Modular untuk menjalankan model AI. Mesin ini dibuat agar inferensi berlangsung cepat, portabel, dan mudah diterapkan. 🚀

Inferensi berarti menggunakan model yang telah dilatih untuk membuat prediksi. MAX berfokus menjalankan tahap tersebut dengan cepat dan efisien di lingkungan produksi.

MAX memberi Anda satu mesin yang menjalankan model dari berbagai kerangka kerja, sehingga Anda tidak perlu merangkai waktu proses yang berbeda untuk masing-masing model.

Model yang sama dapat berjalan pada perangkat keras yang berbeda, dari CPU hingga GPU, tanpa perlu menulis ulang untuk setiap target. Fleksibilitas itu menghemat banyak usaha.

Mojo adalah bahasa yang Anda gunakan ketika perlu memperluas MAX dengan operasi khusus berkecepatan tinggi yang tidak dicakup oleh operasi bawaan.

MAX menerapkan optimisasi tingkat graf secara otomatis, sehingga model Anda sering kali berjalan lebih cepat tanpa penyetelan manual dari Anda.

MAX dapat menyajikan model melalui endpoint, mengubah jaringan yang telah dilatih menjadi layanan yang dapat dipanggil oleh aplikasi.

Anda dapat mengendalikan MAX dari Python, sehingga alat dan jalur data yang sudah Anda kenal tetap bekerja bersama mesin cepat tersebut.

MAX adalah salah satu bagian dari platform Modular yang lebih luas, berdampingan dengan Mojo untuk mencakup seluruh jalur dari model hingga penerapan.

Tim memilih MAX untuk mengurangi latensi dan biaya, sambil mempertahankan alur kerja yang konsisten pada berbagai perangkat keras tempat mereka menerapkan model.

Bayangkan MAX sebagai waktu proses yang mengambil model dan membuatnya berjalan cepat di mana saja, dengan Mojo yang siap memperluasnya. ✨

Anda telah mempelajari bahwa MAX adalah mesin inferensi berperforma tinggi dari platform Modular, portabel di berbagai perangkat keras dan dapat diperluas dengan Mojo. 🎯