Mojo au cœur du graphe MAX

Dans MAX, un modèle est représenté sous forme de graphe : un réseau d'opérations où les données circulent d'un nœud au suivant. 🔗

Chaque nœud du graphe est une opération, c'est-à-dire une opération unique telle qu'une multiplication matricielle ou une fonction d'activation appliquée à ses entrées.

MAX fournit de nombreuses opérations intégrées couvrant les couches courantes, si bien que la majeure partie d'un graphe de modèle classique fonctionne sans code supplémentaire.

Il arrive que votre modèle nécessite une opération que MAX n'inclut pas. C'est alors que vous écrivez une opération personnalisée pour combler ce manque.

Vous écrivez les opérations personnalisées en Mojo, ce qui vous offre une vitesse digne des systèmes pour le calcul exact requis par votre modèle.

Une opération personnalisée est essentiellement une fonction Mojo qui reçoit des tenseurs d'entrée et produit un tenseur de sortie pour le graphe.

Puisque l'opération est écrite en Mojo, vous pouvez utiliser SIMD et d'autres techniques pour faire fonctionner ce nœud aussi vite que le permet le matériel.

Une fois définie, votre opération personnalisée est enregistrée, afin que MAX puisse la placer dans le graphe comme n'importe quelle opération intégrée.

MAX optimise toujours le graphe complet, y compris votre nœud personnalisé, en fusionnant et en ordonnançant le travail pour obtenir le meilleur débit global.

Ce modèle vous permet de conserver un modèle principalement standard tout en insérant une opération Mojo réglée manuellement exactement là où vous avez besoin de vitesse.

Utilisez une opération personnalisée lorsqu'un nœud manquant ou lent constitue votre goulot d'étranglement, et non pour les parties que les opérations intégrées gèrent déjà correctement. ✨

Vous avez vu qu'un modèle MAX est un graphe d'opérations, et que Mojo vous permet d'écrire des opérations personnalisées rapides qui s'y intègrent directement. 🎯