Mojo di Dalam Graf MAX

Di dalam MAX, model direpresentasikan sebagai graf: jaringan operasi tempat data mengalir dari satu simpul ke simpul berikutnya. 🔗

Setiap simpul dalam graf adalah sebuah operasi, yaitu satu operasi seperti perkalian matriks atau fungsi aktivasi yang diterapkan pada inputnya.

MAX disertai banyak operasi bawaan yang mencakup lapisan umum, sehingga sebagian besar graf model biasa dapat bekerja tanpa kode tambahan.

Terkadang model Anda memerlukan operasi yang tidak disertakan MAX. Saat itulah Anda menulis operasi khusus untuk mengisi kekosongan tersebut.

Anda menulis operasi khusus dalam Mojo, sehingga memperoleh kecepatan tingkat sistem untuk perhitungan persis yang diperlukan model Anda.

Operasi khusus pada dasarnya adalah sebuah fungsi Mojo yang menerima tensor input dan menghasilkan tensor keluaran untuk graf.

Karena operasinya ditulis dalam Mojo, Anda dapat menggunakan SIMD dan teknik lainnya agar simpul tersebut berjalan secepat yang dimungkinkan perangkat keras.

Setelah didefinisikan, operasi khusus Anda didaftarkan agar MAX dapat menempatkannya di dalam graf seperti operasi bawaan lainnya.

MAX tetap mengoptimalkan seluruh graf, termasuk simpul khusus Anda, dengan menggabungkan dan menjadwalkan pekerjaan demi throughput keseluruhan terbaik.

Pola ini memungkinkan Anda mempertahankan model yang sebagian besar standar sambil menyisipkan operasi Mojo yang disetel secara manual tepat di tempat Anda membutuhkan kecepatan.

Gunakan operasi khusus ketika simpul yang hilang atau lambat menjadi hambatan Anda, bukan untuk bagian yang sudah ditangani dengan baik oleh operasi bawaan. ✨

Anda telah melihat bahwa model MAX adalah graf operasi, dan Mojo memungkinkan Anda menulis operasi khusus yang cepat lalu memasukkannya langsung ke dalam graf tersebut. 🎯