printf in een kernel

Geloof het of niet: je kunt printf rechtstreeks in een kernel aanroepen. Het is de eenvoudigste manier om te bekijken wat je threads doen. 👀

Onthoud dat de kernel in elke thread draait, dus één regel met printf wordt één keer per thread uitgevoerd. Start 256 threads en je krijgt 256 regels.

Neem threadIdx op in je bericht, zodat je threads uit elkaar kunt houden. Anders bestaat de uitvoer uit een muur van identieke regels.

Threads draaien parallel, dus de afgedrukte volgorde is onvoorspelbaar. Reken er niet op dat regels in volgorde van hun index verschijnen.

Apparaat-printf ondersteunt de gebruikelijke opmaakspecificaties, zoals %d, %f en %s. Het voelt precies als printf op de host.

Uitvoer van het apparaat wordt tijdelijk opgeslagen in een GPU-buffer en pas later naar je console weggeschreven, niet direct wanneer printf wordt uitgevoerd. Dat is normaal.

Omdat de start asynchroon is, zie je afdrukken pas wanneer de GPU klaar is. Roep cudaDeviceSynchronize aan om de buffer leeg te maken.

Afdrukken vanuit miljoenen threads overspoelt de buffer. Beperk dit zodat alleen thread 0 afdrukt, of slechts enkele threads.

printf is je snelste hulpmiddel voor debuggen: voeg er één toe om een index of waarde te controleren, bevestig de fout en verwijder hem daarna.

Veel afdrukken schaadt de prestaties sterk. Gebruik het om een probleem te vinden en verwijder het voordat je de echte snelheid meet.

Apparaat-printf vereist een redelijk moderne rekenmogelijkheid (2.0 of hoger). Bijna elke huidige GPU ondersteunt dit zonder problemen.

Gebruik printf om in threads te kijken, voeg threadIdx toe om ze uit elkaar te houden, synchroniseer om de uitvoer door te sturen en verwijder printf voordat je tijden meet. Handig hulpmiddel! 🎉