Сохранение работы в граф
Запись потока в граф CUDA
«Сохранение работы в граф» — бесплатный урок CUDA Academy на CoddyKit. Это урок 3 из 4. Ты можешь прочитать весь урок бесплатно ниже — а потом практиковать его прямо в браузере с встроенным редактором кода и ИИ-репетитором 24/7. Это часть пути обучения CUDA Academy, и твой прогресс синхронизируется между веб-версией и приложением CoddyKit. Курс CUDA Academy содержит 4 уроков всего.
Части этого урока еще не переведены и отображаются на английском.
What a CUDA Graph Is
A CUDA graph records a whole sequence of kernels and copies as one reusable unit of work you can submit again and again.
Launches Add Up
Each individual kernel launch has a tiny CPU overhead. Across thousands of launches per iteration, that cost becomes real.
Define Once, Run Many
A graph lets you describe the work once, then replay it cheaply, paying the setup cost a single time.
Stream Capture Mode
The easiest way to build one is stream capture: you record the normal launches you already issue into a stream.
cudaStreamBeginCapture(stream, cudaStreamCaptureModeGlobal);Issue Work Normally
Between begin and end, you launch kernels and copies as usual. Nothing runs yet; the operations are recorded, not executed.
kernelA<<<g, b, 0, stream>>>(d);
kernelB<<<g, b, 0, stream>>>(d);End the Capture
You stop recording with cudaStreamEndCapture, which hands back a cudaGraph_t describing all the work.
cudaGraph_t graph;
cudaStreamEndCapture(stream, &graph);Dependencies Inferred
Capture figures out the dependencies between operations automatically from how you used the stream.
Instantiate Before Running
A graph is just a description. You compile it into a runnable graph exec object before you can launch it.
cudaGraphExec_t exec;
cudaGraphInstantiate(&exec, graph, 0);Building Graphs by Hand
You can also add nodes explicitly with the graph API for full control over structure and edges.
cudaGraphAddKernelNode(&n, graph, deps, 1, ¶ms);Multiple Streams, One Graph
Capture can span several streams, so independent branches that run concurrently all land in the same graph.
Reuse Across Many Iterations
Once instantiated, the same exec object is launched repeatedly, which is exactly where graphs earn their keep.
Quick Check
What does cudaStreamEndCapture produce?
Recap: Capturing Graphs
Wrap launches in stream capture to record a cudaGraph_t, instantiate it once, and capture infers the dependencies for you. Great progress! 🎉
Часто задаваемые вопросы
Урок «Сохранение работы в граф» бесплатный?
Да — полный текст урока «Сохранение работы в граф» бесплатно доступен здесь в веб-версии. Чтобы практиковать его интерактивно (встроенный редактор кода и ИИ-репетитор 24/7) и разблокировать остальной курс CUDA Academy, подпишись на CoddyKit PRO. Курс CUDA Academy содержит 4 уроков всего.
Чему я научусь в уроке «Сохранение работы в граф»?
Запись потока в граф CUDA Ты практикуешь CUDA Academy с помощью реального кода, который запускаешь прямо в браузере, и ИИ-репетитор 24/7 отвечает на твои вопросы во время урока.
Нужен ли мне опыт, чтобы начать CUDA Academy?
Предыдущий опыт не требуется. CUDA Academy на CoddyKit структурирован для всех уровней — от новичков до продвинутых, поэтому ты можешь начать отсюда или с самого начала и учиться в своем темпе. Это урок 3 из 4.
Сколько времени занимает урок «Сохранение работы в граф»?
Большинство уроков CoddyKit занимают около 5–10 минут. Каждый из них компактный и интерактивный, поэтому ты постоянно делаешь прогресс и продолжаешь с того же места в веб-версии и приложении.
Можно ли писать и запускать код в этом уроке CUDA Academy?
Да. Каждый урок CUDA Academy включает встроенный редактор кода, поэтому ты пишешь и запускаешь реальный код прямо в браузере и получаешь моментальную обратную связь от AI — локальная установка не требуется.
Все уроки этого курса
- Запуск ядер из ядра
- Когда динамический параллелизм оправдан
- Сохранение работы в граф
- Повторное воспроизведение графов для снижения накладных расходов