Warps, voies et masques

Le GPU ne planifie pas les threads un par un. Il les regroupe en un groupe de 32 threads qui avancent ensemble en exécutant la même instruction en verrouillage de phase.

Sur le matériel NVIDIA, un groupe contient toujours 32 threads. C’est la véritable unité d’exécution : les bons noyaux raisonnent donc par groupes de 32, et non par threads isolés.

Dans un groupe, chaque thread possède une position comprise entre 0 et 31, appelée sa voie. L’identifiant de voie permet aux primitives de groupe de savoir qui communique avec qui.

Vous pouvez lire directement la voie depuis un registre spécial au lieu de la calculer. Le registre laneid contient toujours une valeur de 0 à 31 pour le thread courant.

Les threads partagent un seul compteur ordinal par groupe. Lorsqu’une instruction conditionnelle envoie les voies sur des chemins différents, le groupe diverge et exécute chaque chemin à tour de rôle, ce qui réduit les performances.

Toutes les voies ne sont pas toujours en cours d’exécution. Un masque de 32 bits indique quelles voies sont actuellement actives, avec un bit par voie mis à 1 lorsque celle-ci participe.

Après une divergence, seules certaines voies sont encore actives. Les primitives de groupe doivent savoir exactement lesquelles sont présentes : vous leur transmettez donc un masque actif afin qu’elles restent correctes.

Lorsque vous êtes certain que les 32 voies sont actives, le masque vaut 0xffffffff, avec tous ses bits à 1. Ce masque complet est la valeur que vous transmettrez le plus souvent.

Dans une branche, ne devinez pas le masque. Appelez activemask pour capturer exactement les voies qui ont atteint ce point à cet instant.

Le principal avantage est que les voies d’un même groupe peuvent échanger directement des données par l’intermédiaire des registres. Aucune mémoire partagée ni barrière n’est nécessaire pour un échange local au groupe.

Le suffixe de synchronisation de ces intrinsèques représente une synchronisation au niveau du groupe, et non une barrière de bloc. Elle ne coordonne que les voies indiquées dans le masque que vous lui transmettez.

Un groupe contient 32 voies qui s’exécutent en verrouillage de phase, et un masque indique lesquelles sont actives. Cette base permet aux voies de partager rapidement des données. Ensuite : les permutations pour les réductions. ✨