Vetorizando um laço

Um loop simples acessa um elemento por etapa. Ele é claro, mas deixa a maior parte das lanes vetoriais da sua CPU sem uso.

Vetorizar significa que cada etapa do loop processa um pacote inteiro de elementos em vez de apenas um. Assim, você faz mais trabalho por iteração.

Em vez de um único valor, você carrega vários de uma vez em um vetor SIMD. Esse único carregamento obtém uma fatia dos seus dados.

Com both os blocos no formato SIMD, some-os em uma única etapa elemento a elemento. A operação matemática cobre todas as lanes de uma só vez.

Grave todo o resultado SIMD de volta em um único movimento, usando um armazenamento vetorial. Uma gravação cobre todas as lanes calculadas.

Um loop vetorizado avança pela largura, não de um em um. Cada passagem cobre um pacote completo de elementos.

O auxiliar vetorizar do Mojo executa um fechamento ao longo do intervalo, em etapas vetoriais, e cuida do controle necessário para você.

Você escreve uma pequena função parametrizada que processa um bloco. O Mojo a chama com a largura correta enquanto percorre o intervalo.

Chame a vetorização com sua função de bloco, a largura e o tamanho total. Ela cuida do loop e da cauda para você.

O loop vetorizado produz a mesma saída que o escalar, mas percorre os dados em grandes etapas, portanto termina mais cedo.

Sempre cronometre ambas as versões. A vetorização geralmente vence por uma grande margem, mas um benchmark comprova o ganho nos seus dados reais.

Você substitui um loop que processa um elemento por etapa por carregamentos e armazenamentos SIMD. Como o loop deve avançar?

Vetorizar carrega e armazena blocos inteiros, avança pela largura e deixa a vetorização cuidar do percurso e da cauda, produzindo o mesmo resultado muito mais rapidamente. 🚀