printf dentro un kernel

Incredibile ma vero: potete chiamare printf direttamente all’interno di un kernel. È il modo più semplice per dare un’occhiata a ciò che fanno i vostri thread. 👀

Ricordate che il kernel viene eseguito in ogni thread, quindi una singola riga printf viene eseguita una volta per thread. Se avviate 256 thread, otterrete 256 righe.

Includete threadIdx nel messaggio per distinguere i thread. Altrimenti l’output sarà solo un muro di righe identiche.

I thread vengono eseguiti in parallelo, quindi l’ordine delle stampe è imprevedibile. Non fate affidamento sul fatto che le righe arrivino nella sequenza degli indici.

Il printf del device supporta i consueti specificatori di formato, come %d, %f e %s. Funziona proprio come il printf dell’host.

L’output del device viene accumulato in un buffer della GPU e trasferito in seguito alla console, non nell’istante in cui viene eseguito printf. È normale.

Poiché l’avvio è asincrono, non vedrete le stampe finché la GPU non avrà terminato. Chiamate cudaDeviceSynchronize per svuotare il buffer.

Stampare da milioni di thread riempie il buffer. Usate una condizione in modo che stampi solo il thread 0, oppure soltanto pochi thread.

printf è il vostro strumento di debugging più rapido: inseritene uno per controllare un indice o un valore, confermare il problema e poi rimuoverlo.

Stampare molto danneggia gravemente le prestazioni. Usate questa tecnica per trovare un problema, poi eliminatela prima di misurare la velocità effettiva.

Il printf del device richiede una compute capability abbastanza moderna (2.0 o superiore). Quasi tutte le GPU attuali lo supportano senza problemi.

Usate printf per dare un’occhiata all’interno dei thread, aggiungete threadIdx per distinguerli, sincronizzate per svuotare il buffer e rimuovetelo prima di cronometrare. Uno strumento davvero utile! 🎉