Die klassische Indexformel

Der eigentliche Zweck eines CUDA-Kernels besteht darin, dass jeder Thread ein Datenelement verarbeitet. Dafür benötigt jeder Thread einen eindeutigen globalen Index.

Innerhalb eines Blocks zählt threadIdx.x nur von 0 bis blockDim minus eins. Viele Blöcke verwenden dieselben kleinen Zahlen erneut, daher kann dies nicht Ihr endgültiger Index sein.

Stellen Sie sich das Grid als hintereinander angeordnete Blöcke vor. Jeder Block besitzt einen zusammenhängenden Abschnitt des Arrays, und blockIdx.x gibt an, in welchem Abschnitt Sie sich befinden.

blockDim.x ist die Anzahl der Threads pro Block. Diese Zahl entspricht der Breite jedes Abschnitts und skaliert den Block-Offset auf die richtige Position.

Kombinieren Sie die drei Werte: Überspringen Sie zunächst die vorherigen Blöcke und addieren Sie dann Ihre Position innerhalb dieses Blocks. Diese eine Zeile liefert jedem Thread einen eindeutigen Index.

Bei 4 Threads pro Block deckt Block 0 die Werte 0 bis 3 ab, Block 1 die Werte 4 bis 7 und Block 2 die Werte 8 bis 11. Die Offsets überschneiden sich nie.

Thread 2 in Block 3 mit blockDim 256 landet bei 3 mal 256 plus 2, also bei 770. Das ist seine globale Position in den Daten.

Sobald Sie i berechnet haben, verwenden Sie ihn als Array-Index. Jeder Thread liest und schreibt nur sein eigenes Element, ohne Überschneidungen.

Starten Sie n Threads, liefert die Formel jeden Wert von 0 bis n minus 1 genau einmal. Damit wird das Array perfekt eineindeutig abgedeckt.

Multiplizieren Sie immer vor dem Addieren. blockIdx.x * blockDim.x ist der Anfang Ihres Abschnitts, und threadIdx.x gibt die Position innerhalb dieses Abschnitts an.

Dasselbe Prinzip lässt sich mithilfe der Member .y und .z auf 2D und 3D erweitern. Für flache Arrays benötigen Sie jedoch nur die .x-Formel. 🚀

Berechnen Sie den globalen Index eines Threads.

Sie haben die Formel kennengelernt, die jeder Kernel verwendet: blockIdx.x * blockDim.x + threadIdx.x. Sie weist jedem Thread einen eindeutigen Platz in Ihrem Array zu. 🎉