Stencil e finestre scorrevoli

Uno stencil calcola ogni output a partire da una regione fissa di input, ad esempio facendo la media di un pixel con le celle circostanti.

Spostandosi lungo l'array, la finestra di input scorre di una posizione. Gli output consecutivi condividono la maggior parte dei propri input, quindi il riutilizzo è enorme.

Poiché i vicini si sovrappongono, un tile caricato una volta alimenta molti output. Gli stencil sono un esempio classico in cui il tiling dà il meglio.

Per calcolare i bordi di un tile servono anche alcuni elementi appena fuori dal tile stesso. Queste celle aggiuntive del bordo sono chiamate halo.

Il primo thread di un tile ha bisogno del vicino a sinistra, che appartiene al tile precedente. Senza le celle halo, quella lettura sarebbe errata.

Per uno stencil di raggio r si caricano r celle aggiuntive su ciascun lato. Una sfocatura a 3 punti ha raggio 1, quindi basta una cella halo per lato.

Dichiari la shared memory come blockDim più 2 * radius, così può contenere l'area interna e i due halo in un unico buffer ordinato.

Ogni thread carica innanzitutto il proprio elemento nel tile a un offset pari a radius, lasciando spazio davanti per l'halo sinistro.

I primi thread svolgono un doppio compito: recuperano anche le celle halo a sinistra e a destra prima che il blocco si sincronizzi.

Dopo __syncthreads, ogni thread legge i propri vicini interamente dal tile, senza più accedere alla memoria globale per quel passaggio.

Ora ogni valore interno serve 2r + 1 output a partire da un unico caricamento nella shared memory. È esattamente il traffico ridondante eliminato dal tiling.

Gli stencil fanno scorrere finestre sovrapposte, quindi un halo di r celle aggiuntive per lato consente a un tile di servire ogni output con un solo caricamento. ✅