La trampa del stream predeterminado
Cómo el stream 0 serializa todo.
La trampa del stream predeterminado es una lección gratuita de CUDA Academy en CoddyKit. Esta es la lección 1 de 4. Puedes leer la lección completa abajo gratuitamente — luego la practicas en el navegador con un editor de código integrado y un tutor de IA 24/7. Forma parte de la ruta de aprendizaje de CUDA Academy, y tu progreso se sincroniza en la web y la app de CoddyKit. El curso de CUDA Academy incluye 4 lecciones en total.
Partes de esta lección aún no han sido traducidas y se muestran en inglés.
What Is a Stream?
A stream is an ordered queue of GPU work. Operations in the same stream run one after another, in the order you issued them. ⏳
The Default Stream
If you never name a stream, every call lands in the default stream, also called stream 0. It is where all your work has secretly been running.
Why It Is a Trap
The default stream is synchronizing: it blocks until other streams finish, and they wait for it. Nothing overlaps, so your GPU sits idle between steps.
Everything Serializes
Issue a copy, a kernel, then another copy on stream 0 and they run strictly back to back. The GPU can never start step two before step one ends.
cudaMemcpy(d_a, h_a, n, cudaMemcpyHostToDevice);
kernel<<<grid, block>>>(d_a);
cudaMemcpy(h_a, d_a, n, cudaMemcpyDeviceToHost);Wasted Hardware
Modern GPUs have separate engines for compute and for copying. On the default stream those engines take turns instead of working together.
The Hidden Cost of Copies
Data transfers over PCIe are slow. When copies cannot overlap with compute, that transfer time is added directly onto your total runtime.
Implicit Synchronization
Many default-stream calls are blocking on the host too. cudaMemcpy returns only after the copy is done, stalling your CPU.
The Legacy Behavior
By default, work in any stream waits for stream 0, and stream 0 waits for them. This legacy rule quietly destroys concurrency you thought you had.
A Telltale Profile
In a profiler the default-stream trap shows up as a single busy lane with gaps, while copy and compute engines sit idle waiting for each other.
The Way Out
The fix is to issue independent work on separate streams. Then copies and kernels can run at the same time and fill those idle gaps.
Per-Thread Default Streams
Compiling with --default-stream per-thread gives each host thread its own default stream, easing the trap without rewriting every call.
nvcc --default-stream per-thread app.cu -o appQuick Check
Why does putting all work on the default stream hurt performance?
Recap
The default stream serializes your GPU work and blocks overlap. To go faster, you will move independent tasks onto their own streams next. 🚀
Preguntas frecuentes
¿La lección «La trampa del stream predeterminado» es gratis?
Sí — el texto completo de «La trampa del stream predeterminado» es gratis para leer aquí en la web. Para practicarla de forma interactiva (editor de código integrado y tutor de IA 24/7) y desbloquear el resto del curso de CUDA Academy, actualiza a CoddyKit PRO. El curso de CUDA Academy incluye 4 lecciones en total.
¿Qué aprenderé en «La trampa del stream predeterminado»?
Cómo el stream 0 serializa todo. Practicas CUDA Academy con código real que ejecutas directamente en el navegador, y un tutor de IA 24/7 responde tus preguntas mientras trabajas en la lección.
¿Necesito experiencia previa para empezar CUDA Academy?
No se requiere experiencia previa. CUDA Academy en CoddyKit está estructurado para principiantes hasta estudiantes avanzados, así que puedes empezar aquí o desde el inicio y avanzar a tu ritmo. Esta es la lección 1 de 4.
¿Cuánto tiempo toma la lección «La trampa del stream predeterminado»?
La mayoría de las lecciones de CoddyKit toman alrededor de 5–10 minutos. Cada una es compacta e interactiva, así que avanzas constantemente y retomas exactamente por donde dejaste en la web y la app.
¿Puedo escribir y ejecutar código en esta lección de CUDA Academy?
Sí. Cada lección de CUDA Academy incluye un editor de código integrado, así que escribes y ejecutas código real directamente en tu navegador y obtienes retroalimentación instantánea de IA — sin configuración local necesaria.
Todas las lecciones de este curso
- La trampa del stream predeterminado
- Crear y usar streams
- Eventos para medir y sincronizar
- Solapar copias y cálculos