CUDA Academy · Leçon

cudaDeviceSynchronize expliqué

Pourquoi le CPU doit attendre le GPU.

cudaDeviceSynchronize expliqué est une leçon CUDA Academy gratuite sur CoddyKit. Ceci est la leçon 4 sur 4. Tu peux lire la leçon complète ci-dessous gratuitement — puis la pratiquer en direct dans le navigateur avec un éditeur de code intégré et un tuteur IA 24/7. Elle fait partie du parcours d'apprentissage CUDA Academy, et ta progression se synchronise sur le web et l'application CoddyKit. Le cours CUDA Academy comprend 4 leçons au total.

Certaines parties de cette leçon n'ont pas encore été traduites et s'affichent en anglais.

The CPU Does Not Wait

After a launch, the CPU rushes ahead while the GPU is still working. To pause and wait, you call cudaDeviceSynchronize. ⏳

myKernel<<<g, b>>>(p);
cudaDeviceSynchronize();

What Synchronize Means

cudaDeviceSynchronize blocks the host until every queued GPU task has finished. Only then does your next CPU line run.

Why You Need It

Without a sync, you might read results that the GPU has not written yet. Synchronizing guarantees the kernel is truly done.

Flushing printf Output

It also flushes device printf. If your kernel prints but nothing shows up, a missing sync is usually the reason.

hi<<<1, 4>>>();
cudaDeviceSynchronize(); // now you see it

It Returns an Error Code

The call returns a cudaError_t. A failure here often reveals a crash that happened inside your kernel.

cudaError_t e = cudaDeviceSynchronize();

Catch Hidden Kernel Crashes

Kernels fail silently, so checking the error code from synchronize is how you discover an out-of-bounds access or bad launch.

if (e != cudaSuccess) printf("kernel failed\n");

cudaMemcpy Syncs Too

A plain cudaMemcpy back to the host also waits for the GPU. In that common case you may not need a separate synchronize.

cudaMemcpy(host, dev, n, cudaMemcpyDeviceToHost);

Do Not Over-Synchronize

Calling sync after every step kills overlap and slows you down. Sync only when you truly must read results or measure time.

Syncing for Timing

To time a kernel honestly, synchronize before and after. Otherwise your timer just measures how fast the CPU queued the work.

cudaDeviceSynchronize();
// start timer ... kernel ... sync ... stop

Stream Sync Is Narrower

For finer control, cudaStreamSynchronize waits on one stream instead of the whole device. Great when work overlaps.

cudaStreamSynchronize(stream);

A Safe First Habit

While learning, sync after each launch and check the result. Once your code is solid, remove the extra syncs for speed.

Quick Check

Check your grasp of synchronization.

Recap: Synchronizing

cudaDeviceSynchronize makes the CPU wait for the GPU, flushes printf, and surfaces hidden crashes. Use it wisely, not everywhere. 🎉

Questions Fréquemment Posées

La leçon « cudaDeviceSynchronize expliqué » est-elle gratuite ?

Oui — le texte complet de « cudaDeviceSynchronize expliqué » est gratuit à lire ici sur le web. Pour la pratiquer de manière interactive (un éditeur de code intégré et un tuteur IA 24/7) et déverrouiller le reste du cours CUDA Academy, passe à CoddyKit PRO. Le cours CUDA Academy comprend 4 leçons au total.

Qu'est-ce que j'apprendrai dans « cudaDeviceSynchronize expliqué » ?

Pourquoi le CPU doit attendre le GPU. Tu pratiques CUDA Academy avec du code pratique que tu exécutes directement dans le navigateur, et un tuteur IA 24/7 répond à tes questions au fur et à mesure que tu avances dans la leçon.

Dois-je avoir de l'expérience pour commencer CUDA Academy ?

Aucune expérience préalable n'est requise. CUDA Academy sur CoddyKit est structuré pour les débutants jusqu'aux apprenants avancés, donc tu peux commencer ici ou depuis le début et avancer à ton rythme. Ceci est la leçon 4 sur 4.

Combien de temps prend la leçon « cudaDeviceSynchronize expliqué » ?

La plupart des leçons CoddyKit prennent environ 5–10 minutes. Chacune est courte et interactive, tu progresses régulièrement et tu repiques exactement où tu t'es arrêté sur le web et l'app.

Peux-tu écrire et exécuter du code dans cette leçon CUDA Academy ?

Oui. Chaque leçon CUDA Academy inclut un éditeur de code intégré, tu écris et exécutes du vrai code directement dans ton navigateur et tu reçois des retours IA instantanés — aucune configuration locale requise.

Toutes les leçons de ce cours

← Retour à CUDA Academy