Stencil och glidande fönster

En stencil beräknar varje utdata från ett fast närområde av indata, till exempel genom att beräkna medelvärdet av en pixel och cellerna runt den.

När du förflyttar dig längs arrayen glider indataset ett steg. På varandra följande utdata delar de flesta av sina indata, så återanvändningen är stor.

Eftersom grannområden överlappar varandra kan en tile som lästs in en gång ge många utdata. Stenciler är ett typexempel där tiling gör stor skillnad.

För att beräkna kanterna på en tile behöver du också några element precis utanför den. Dessa extra kantceller kallas halo.

Den första tråden i en tile behöver sin vänstra granne, som tillhör den föregående tilen. Utan haloceller blir den läsningen fel.

För en stencil med radien r läser du in r extra celler på varje sida. En suddning med tre punkter har radien 1, så en halocell per sida räcker.

Deklarera delat minne som blockDim plus 2 * radius så att det rymmer det inre området och båda haloområdena i en enda tydlig buffer.

Varje tråd läser först in sitt eget element i tilen med förskjutningen radius, så att det finns plats för den vänstra halon framför.

De första trådarna gör dubbelt arbete och hämtar även de vänstra och högra halocellerna innan blocket synkroniseras.

Efter __syncthreads läser varje tråd sina grannar helt från tilen och rör aldrig globalt minne igen under det steget.

Varje värde i det inre området används nu av 2r + 1 utdata efter en enda läsning från delat minne. Det är exakt den överflödiga datatrafik som tiling tar bort.

Stenciler använder glidande, överlappande fönster, så en halo med r extra celler per sida gör att en tile kan ge alla utdata med en enda inläsning per cell. ✅