Analyser, optimiser, livrer
Boucler le processus avec les métriques de Nsight
Analyser, optimiser, livrer est une leçon CUDA Academy gratuite sur CoddyKit. Ceci est la leçon 4 sur 4. Tu peux lire la leçon complète ci-dessous gratuitement — puis la pratiquer en direct dans le navigateur avec un éditeur de code intégré et un tuteur IA 24/7. Elle fait partie du parcours d'apprentissage CUDA Academy, et ta progression se synchronise sur le web et l'application CoddyKit. Le cours CUDA Academy comprend 4 leçons au total.
Certaines parties de cette leçon n'ont pas encore été traduites et s'affichent en anglais.
Measure, Do Not Guess
Optimization starts with data, not hunches. Always profile first to learn where the time really goes before you change a single line. 🔍
Start With the Timeline
Open Nsight Systems to see the whole run: kernels, copies, and gaps. The timeline shows whether transfers and compute actually overlap.
Find the Hot Kernel
One stage usually dominates. The timeline reveals the longest-running kernel, and that is exactly where your tuning effort should go first.
Zoom In With Nsight Compute
For the hot kernel, switch to Nsight Compute. It reports per-kernel metrics like memory throughput, stalls, and achieved occupancy.
Read the Roofline
The roofline tells you if a kernel is memory-bound or compute-bound. That single answer decides which optimizations are even worth trying.
Fix Memory-Bound Kernels
If you are memory-bound, chase coalescing, shared-memory tiling, and vectorized loads. Feeding data faster is the only path to more speed.
Fix Compute-Bound Kernels
If you are compute-bound, raise ILP with unrolling, cut redundant math, or move to lower precision. Here the arithmetic units are the limit.
Label Your Code With NVTX
Wrap pipeline stages in NVTX ranges so the timeline shows named bars instead of anonymous kernels. Readable profiles are faster to debug.
nvtxRangePush("blur");
blurKernel<<<grid, block>>>(d_in, d_out);
nvtxRangePop();Change One Thing at a Time
Apply a single optimization, then re-profile. This tight loop proves each change helped and stops you from chasing two effects at once.
Know When to Stop
When a kernel nears its roofline limit, more tuning yields little. Recognize diminishing returns and spend your time on the next bottleneck.
Validate, Then Ship
Before release, confirm correctness against a reference and check the speedup is stable. A fast but wrong pipeline is not shippable. 🚢
Quick Check
Nsight Compute says your hot kernel is memory-bound. Which fix should you try first?
Recap
You learned to profile with Nsight, read the roofline to classify kernels, apply targeted fixes one at a time, and validate before shipping a fast, correct pipeline. 🏁
Questions Fréquemment Posées
La leçon « Analyser, optimiser, livrer » est-elle gratuite ?
Oui — le texte complet de « Analyser, optimiser, livrer » est gratuit à lire ici sur le web. Pour la pratiquer de manière interactive (un éditeur de code intégré et un tuteur IA 24/7) et déverrouiller le reste du cours CUDA Academy, passe à CoddyKit PRO. Le cours CUDA Academy comprend 4 leçons au total.
Qu'est-ce que j'apprendrai dans « Analyser, optimiser, livrer » ?
Boucler le processus avec les métriques de Nsight Tu pratiques CUDA Academy avec du code pratique que tu exécutes directement dans le navigateur, et un tuteur IA 24/7 répond à tes questions au fur et à mesure que tu avances dans la leçon.
Dois-je avoir de l'expérience pour commencer CUDA Academy ?
Aucune expérience préalable n'est requise. CUDA Academy sur CoddyKit est structuré pour les débutants jusqu'aux apprenants avancés, donc tu peux commencer ici ou depuis le début et avancer à ton rythme. Ceci est la leçon 4 sur 4.
Combien de temps prend la leçon « Analyser, optimiser, livrer » ?
La plupart des leçons CoddyKit prennent environ 5–10 minutes. Chacune est courte et interactive, tu progresses régulièrement et tu repiques exactement où tu t'es arrêté sur le web et l'app.
Peux-tu écrire et exécuter du code dans cette leçon CUDA Academy ?
Oui. Chaque leçon CUDA Academy inclut un éditeur de code intégré, tu écris et exécutes du vrai code directement dans ton navigateur et tu reçois des retours IA instantanés — aucune configuration locale requise.
Toutes les leçons de ce cours
- Concevoir le pipeline de traitement
- Fusionner les filtres dans un seul noyau
- Traiter les tuiles en flux pour les grandes images
- Analyser, optimiser, livrer