Vektorisering af kode med SIMD

Velkommen til den sidste lektion om SIMD! Vi har lært om SSE/AVX-registre og instruktioner. Nu samler vi det hele for at vektorisere kode.

Vektorisering er en kompilatoroptimering eller en manuel kodningsteknik, der omdanner løkker, så de udfører operationer på flere dataelementer samtidigt i stedet for ét ad gangen.

Forestil dig, at du lægger to lister med tal sammen. En traditionel (skalar) tilgang lægger ét par sammen ad gangen. Med vektorisering ved hjælp af SIMD kan du lægge flere par sammen i én instruktion.

• Skalar: A[0]+B[0], derefter A[1]+B[1] osv.
• SIMD: (A[0], A[1], A[2], A[3]) + (B[0], B[1], B[2], B[3]) på én gang!

Denne parallelle behandling gør gentagne opgaver på store datasæt markant hurtigere.

For at opnå optimal SIMD-ydeevne bør dine data være justeret i hukommelsen. Det betyder, at startadressen for din datablok skal være et multiplum af vektorstørrelsen (f.eks. 16 byte for SSE og 32 byte for AVX).

• Justeret adgang: Hurtigere og bruger instruktioner som MOVAPS.
• Ujusteret adgang: Langsommere og bruger instruktioner som MOVUPS, fordi CPU'en skal udføre ekstra arbejde for at hente dataene.

Korrekt justering hjælper CPU'en med at hente data mere effektivt og undgå ydeevnestraffe.

For at arbejde med data i SIMD-registre skal du først indlæse dem fra hukommelsen. Her er almindelige instruktioner til flydende tal med enkelt præcision (PS):

• MOVAPS XMM0, [mem]: Flytter 4 justerede flydende tal med enkelt præcision fra hukommelsen til XMM0.
• MOVUPS XMM0, [mem]: Flytter 4 ujusterede flydende tal med enkelt præcision fra hukommelsen til XMM0.

Prøv altid at bruge MOVAPS, hvis dine data med sikkerhed er justeret, for at opnå bedre ydeevne.

Når dataene er i SIMD-registre, kan du udføre operationer på alle elementer samtidigt. Hvis du f.eks. vil lægge to vektorer med flydende tal med enkelt præcision sammen:

• ADDPS XMM0, XMM1: Lægger de tilsvarende pakkede flydende tal med enkelt præcision i XMM1 til XMM0. Resultatet gemmes i XMM0.

Denne ene instruktion udfører fire separate additioner parallelt!

Efter behandling af data i SIMD-registre vil du gemme resultaterne tilbage i hukommelsen. Ligesom ved indlæsning findes der instruktioner til lagring af både justerede og ujusterede data:

• MOVAPS [mem], XMM0: Gemmer 4 justerede flydende tal med enkelt præcision fra XMM0 i hukommelsen.
• MOVUPS [mem], XMM0: Gemmer 4 ujusterede flydende tal med enkelt præcision fra XMM0 i hukommelsen.

Prioritér igen MOVAPS ved lagring, hvis destinationshukommelsen er justeret.

Lad os se på et enkelt eksempel på, hvordan to arrays med flydende tal med enkelt præcision lægges sammen ved hjælp af SSE-instruktioner. Dette program lægger array1 og array2 sammen og gemmer resultatet i result.

Vi behandler 4 flydende tal ad gangen i en løkkelignende struktur og flytter 16 byte (4 flydende tal) pr. trin.

Ud over ADDPS tilbyder SSE/AVX en lang række instruktioner til forskellige pakkede operationer:

• SUBPS: Subtraherer pakkede flydende tal med enkelt præcision.
• MULPS: Multiplicerer pakkede flydende tal med enkelt præcision.
• DIVPS: Dividerer pakkede flydende tal med enkelt præcision.
• ANDPS, ORPS, XORPS: Bitvise logiske operationer på pakkede flydende tal.
• Sammenligningsinstruktioner (f.eks. CMPPS): Sammenligner pakkede flydende tal.

Det afgørende er, at de alle arbejder på flere dataelementer samtidigt.

Vektorisering er en effektiv optimering, men den er ikke altid nødvendig eller fordelagtig. Overvej følgende:

• Store datasæt: Mest effektivt for løkker, der behandler mange elementer.
• Gentagne operationer: Ideelt til identiske operationer, der anvendes på mange dataelementer.
• Datalayout: Fungerer bedst med sammenhængende, justerede data.
• Overhead: Små løkker kan medføre mere overhead ved opsætning af vektorregistre, end den opnåede hastighedsforbedring kan opveje.

Kompilatorer kan ofte autovektorisere, men manuel vektorisering giver dig finmasket kontrol.

Godt gået! Du har nu lært at anvende SSE/AVX-instruktioner til at vektorisere din kode.

• Vektorisering udfører operationer på flere dataelementer samtidigt.
• Korrekt datajustering er afgørende for optimal ydeevne.
• Instruktioner som MOVAPS, ADDPS og MOVAPS bruges til at indlæse, behandle og gemme pakkede data.
• Vektorisering er særligt effektiv til gentagne operationer på store, sammenhængende datasæt.

Denne effektive teknik gør det muligt at opnå betydelige ydeevneforbedringer i dine x86-assemblyprogrammer. Bliv ved med at øve dig!