Mojo in de MAX-grafiek

MAX wordt geleverd met veel ingebouwde bewerkingen voor algemene lagen, zodat het grootste deel van een typische modelgraaf zonder extra code werkt.

Soms heeft je model een bewerking nodig die MAX niet bevat. Dan schrijf je een aangepaste bewerking om die leemte op te vullen.

Je schrijft aangepaste bewerkingen in Mojo, waardoor je de snelheid op systeemniveau krijgt voor precies de berekening die je model nodig heeft.

Een aangepaste bewerking is in wezen een Mojo-functie die invoertensors ontvangt en een uitvoertensor voor de graaf produceert.

Omdat de bewerking in Mojo is geschreven, kun je SIMD en andere technieken gebruiken om die knoop zo snel te laten draaien als de hardware toelaat.

Nadat je de aangepaste bewerking hebt gedefinieerd, registreer je die zodat MAX haar net als elke ingebouwde bewerking in de graaf kan plaatsen.

MAX optimaliseert nog steeds de volledige graaf, inclusief je aangepaste knoop, en voegt werk samen en plant het voor een zo hoog mogelijke totale doorvoer.

Met dit patroon kun je een model grotendeels standaard houden en precies waar snelheid nodig is een handmatig afgestemde Mojo-bewerking invoegen.

Gebruik een aangepaste bewerking wanneer een ontbrekende of trage knoop je bottleneck is, niet voor onderdelen die de ingebouwde bewerkingen al goed afhandelen. ✨

Je hebt gezien dat een MAX-model een graaf van bewerkingen is en dat je met Mojo snelle aangepaste bewerkingen kunt schrijven die er direct in passen. 🎯