Wektoryzowanie pętli

Zwykła pętla przetwarza jeden element w każdym kroku. Jest przejrzysta, ale pozostawia pasma wektorowe procesora w większości niewykorzystane.

Wektoryzacja oznacza, że każdy krok pętli obsługuje cały pakiet elementów zamiast jednego. W każdej iteracji wykonuje się więcej pracy.

Zamiast jednej wartości wczytuje się kilka naraz do wektora SIMD. Pojedyncza operacja load pobiera fragment danych.

Gdy oba fragmenty mają postać SIMD, dodaj je w jednym kroku element po elemencie. Obliczenie obejmuje każde pasmo jednocześnie.

Zapisz cały wynik SIMD jednym ruchem za pomocą operacji wektorowej store. Jeden zapis obejmuje wszystkie obliczone pasma.

Wektoryzowana pętla przesuwa się o szerokość wektora, a nie o jeden element. Każde przejście obejmuje cały pakiet elementów.

Pomocnicza funkcja Mojo vectorize uruchamia domknięcie dla kolejnych fragmentów zakresu i zajmuje się za Ciebie obsługą szczegółów.

Należy napisać małą parametryzowaną funkcję, która przetwarza jeden fragment. Mojo wywołuje ją z odpowiednią szerokością podczas przechodzenia przez range.

Wywołaj vectorize, przekazując funkcję obsługującą fragment, szerokość oraz całkowity rozmiar. Pętla i końcówka zostaną obsłużone automatycznie.

Wektoryzowana pętla zwraca identyczny wynik jak pętla skalarna, ale przetwarza dane dużymi krokami, więc kończy działanie szybciej.

Zawsze zmierz czas obu wersji. Wektoryzacja zwykle daje dużą poprawę, ale dopiero benchmark potwierdzi zysk dla rzeczywistych danych.

Zastępujesz pętlę przetwarzającą jeden element w każdym kroku operacjami SIMD load i store. O ile powinna przesuwać się pętla?

Wektoryzacja wczytuje i zapisuje całe fragmenty, wykonuje kroki o szerokości wektora, a funkcji vectorize pozostawia przechodzenie po zakresie i obsługę końcówki, zapewniając ten sam wynik znacznie szybciej. 🚀