Mojo dentro do grafo MAX

Dentro de MAX, um modelo é representado como um grafo: uma rede de operações na qual os dados fluem de um nó para o seguinte. 🔗

Cada nó do grafo é uma operação, como uma multiplicação de matrizes ou uma função de ativação aplicada às entradas.

MAX vem com muitas operações integradas que abrangem camadas comuns, portanto a maior parte de um grafo de modelo típico funciona sem código adicional.

Às vezes, seu modelo precisa de uma operação que MAX não inclui. É nesse momento que você escreve uma operação personalizada para preencher a lacuna.

Você escreve operações personalizadas em Mojo, obtendo velocidade de nível de sistema para o cálculo exato exigido pelo seu modelo.

Uma operação personalizada é essencialmente uma função Mojo que recebe tensores de entrada e produz um tensor de saída para o grafo.

Como a operação é escrita em Mojo, você pode usar SIMD e outros recursos para fazer esse nó executar tão rapidamente quanto o hardware permitir.

Depois de definida, sua operação personalizada é registrada para que MAX possa colocá-la no grafo, assim como qualquer operação integrada.

MAX ainda otimiza o grafo completo, incluindo seu nó personalizado, fundindo e agendando o trabalho para obter a melhor vazão geral.

Esse padrão permite manter um modelo principalmente padrão e inserir uma operação Mojo ajustada manualmente exatamente onde você precisa de velocidade.

Use uma operação personalizada quando um nó ausente ou lento for o seu gargalo, e não em partes que as operações integradas já tratam bem. ✨

Você viu que um modelo MAX é um grafo de operações, e que Mojo permite escrever operações personalizadas rápidas que se encaixam diretamente nele. 🎯