Vektorisering av kode med SIMD

Velkommen til den siste leksjonen om SIMD! Vi har lært om SSE/AVX-registre og instruksjoner. Nå skal vi sette alt sammen for å vektorisere kode.

Vektorisering er en kompilatoroptimalisering eller en manuell kodeteknikk som omformer løkker slik at de utfører operasjoner på flere dataelementer samtidig, i stedet for ett om gangen.

Se for deg at du legger sammen to lister med tall. En tradisjonell (skalar) tilnærming legger sammen ett par om gangen. Vektorisering med SIMD lar deg legge sammen flere par i én enkelt instruksjon.

• Skalar: A[0]+B[0], deretter A[1]+B[1], og så videre.
• SIMD: (A[0], A[1], A[2], A[3]) + (B[0], B[1], B[2], B[3]) – alt på én gang!

Denne parallelle behandlingen gjør repetitive oppgaver på store datasett betydelig raskere.

For optimal SIMD-ytelse bør dataene være justert i minnet. Det betyr at startadressen til datablokken bør være et multiplum av vektorstørrelsen (for eksempel 16 byte for SSE og 32 byte for AVX).

• Justert tilgang: Raskere, bruker instruksjoner som MOVAPS.
• Ujustert tilgang: Saktere, bruker instruksjoner som MOVUPS, siden CPU-en må utføre ekstra arbeid for å hente dataene.

Riktig justering hjelper CPU-en med å hente data mer effektivt og unngå ytelsestap.

For å arbeide med data i SIMD-registre må du først laste dem inn fra minnet. Her er vanlige instruksjoner for flyttall med enkel presisjon (PS):

• MOVAPS XMM0, [mem]: Flytter 4 justerte flyttall med enkel presisjon fra minnet til XMM0.
• MOVUPS XMM0, [mem]: Flytter 4 ujusterte flyttall med enkel presisjon fra minnet til XMM0.

Bruk alltid MOVAPS når dataene garantert er justert, for å oppnå bedre ytelse.

Når dataene er i SIMD-registre, kan du utføre operasjoner på alle elementene samtidig. For eksempel kan du legge sammen to vektorer med flyttall med enkel presisjon:

• ADDPS XMM0, XMM1: Legger de tilsvarende pakkede flyttallene med enkel presisjon i XMM1 til XMM0. Resultatet lagres i XMM0.

Denne ene instruksjonen utfører fire separate addisjoner parallelt!

Etter at dataene er behandlet i SIMD-registre, vil du lagre resultatene tilbake i minnet. På samme måte som ved innlasting finnes det lagringsinstruksjoner for både justerte og ujusterte data:

• MOVAPS [mem], XMM0: Lagrer 4 justerte flyttall med enkel presisjon fra XMM0 til minnet.
• MOVUPS [mem], XMM0: Lagrer 4 ujusterte flyttall med enkel presisjon fra XMM0 til minnet.

Prioriter igjen MOVAPS ved lagring hvis målminnet er justert.

La oss se på et enkelt eksempel på hvordan to arrayer med flyttall med enkel presisjon legges sammen ved hjelp av SSE-instruksjoner. Dette programmet legger sammen array1 og array2 og lagrer resultatet i result.

Vi behandler 4 flyttall om gangen i en løkkelignende prosess og flytter 16 byte (4 flyttall) for hvert trinn.

I tillegg til ADDPS tilbyr SSE/AVX et bredt utvalg av instruksjoner for ulike pakkede operasjoner:

• SUBPS: Trekker fra pakkede flyttall med enkel presisjon.
• MULPS: Multipliserer pakkede flyttall med enkel presisjon.
• DIVPS: Dividerer pakkede flyttall med enkel presisjon.
• ANDPS, ORPS, XORPS: Bitvise logiske operasjoner på pakkede flyttall.
• Sammenligningsinstruksjoner (for eksempel CMPPS): Sammenligner pakkede flyttall.

Poenget er at alle opererer på flere dataelementer samtidig.

Vektorisering er en kraftig optimalisering, men er ikke alltid nødvendig eller fordelaktig. Vurder følgende:

• Store datasett: Mest effektivt for løkker som behandler mange elementer.
• Repetitive operasjoner: Ideelt for identiske operasjoner som brukes på mange dataelementer.
• Datalayout: Fungerer best med sammenhengende, justerte data.
• Overhead: Små løkker kan få større overhead ved oppsett av vektorregistre enn ytelsesøkningen de gir.

Kompilatorer kan ofte vektorisere automatisk, men manuell vektorisering gir deg detaljert kontroll.

Godt jobbet! Nå har du lært hvordan du bruker SSE/AVX-instruksjoner til å vektorisere koden din.

• Vektorisering utfører operasjoner på flere dataelementer samtidig.
• Riktig justering av data er avgjørende for optimal ytelse.
• Instruksjoner som MOVAPS, ADDPS og MOVAPS brukes til å laste inn, behandle og lagre pakkede data.
• Vektorisering er svært effektivt for repetitive operasjoner på store, sammenhengende datasett.

Denne kraftige teknikken lar deg oppnå betydelige ytelsesforbedringer i x86-assemblyprogrammene dine. Fortsett å øve!