Cykl życia programu CUDA
Przydzielać pamięć, kopiować, uruchamiać, kopiować z powrotem i zwalniać.
Cykl życia programu CUDA to bezpłatna lekcja CUDA Academy na CoddyKit. To lekcja 4 z 4. Możesz przeczytać całą lekcję poniżej za darmo — a potem ćwiczyć ją interaktywnie w przeglądarce z wbudowanym edytorem kodu i tutorem AI dostępnym 24/7. To część ścieżki edukacyjnej CUDA Academy, a Twój postęp synchronizuje się między webem a aplikacją CoddyKit. Kurs CUDA Academy zawiera 4 lekcji w sumie.
Powtarzający się rytm
Niemal każdy program CUDA ma ten sam pięcioetapowy przebieg. Gdy raz poznają Państwo ten rytm, będą Państwo w stanie czytać dowolny kod GPU. 🕺
Krok 1: Alokacja
Najpierw należy zarezerwować pamięć urządzenia na dane wejściowe i wyjściowe za pomocą cudaMalloc, ponieważ GPU nie może bezpośrednio korzystać z buforów hosta.
cudaMalloc(&d_a, bytes);
cudaMalloc(&d_b, bytes);Krok 2: Kopiowanie danych wejściowych
Następnie należy przesłać dane wejściowe z hosta do urządzenia za pomocą cudaMemcpy. GPU ma teraz własną kopię danych, na której może pracować.
cudaMemcpy(d_a, h_a, bytes, cudaMemcpyHostToDevice);Krok 3: Uruchomienie
Teraz należy uruchomić kernel w wielu wątkach. W tym miejscu na urządzeniu faktycznie odbywa się praca równoległa. 🚀
myKernel<<<blocks, threads>>>(d_a, d_b, n);Krok 4: Kopiowanie wyników
Po zakończeniu obliczeń należy pobrać wyniki z urządzenia do hosta, aby procesor mógł je odczytać i wykorzystać.
cudaMemcpy(h_b, d_b, bytes, cudaMemcpyDeviceToHost);Krok 5: Zwalnianie
Na koniec należy zwolnić każdy bufor urządzenia za pomocą cudaFree. Pominięcie tego kroku powoduje wyciek pamięci GPU, którą mogłyby wykorzystać inne zadania.
cudaFree(d_a);
cudaFree(d_b);Nie zapomnij o synchronizacji
Ponieważ uruchomienia są asynchroniczne, przed odczytaniem wyników należy wywołać cudaDeviceSynchronize, aby upewnić się, że GPU rzeczywiście zakończyło pracę.
cudaDeviceSynchronize();Kopiowanie kosztuje czas
Kroki kopiowania wykorzystują wolną magistralę PCIe, dlatego transfer danych jest często rzeczywistym wąskim gardłem, a nie sam kernel.
Ponowne używanie buforów
Jednorazowa alokacja i ponowne używanie buforów podczas wielu uruchomień jest wydajniejsze niż przydzielanie nowej pamięci w każdej iteracji pętli.
Symetria schematu
Proszę zauważyć symetrię: każdemu cudaMalloc odpowiada cudaFree, a każdemu kopiowaniu danych do urządzenia ostatecznie odpowiada kopiowanie danych z urządzenia.
Cykl życia w jednym zdaniu
Proszę powtarzać jak mantrę: alokuj, skopiuj, uruchom, skopiuj z powrotem, zwolnij. Ta jedna linia stanowi szkielet niemal każdego programu z kernelem.
Szybkie sprawdzenie
Sprawdźmy standardowy cykl życia programu CUDA.
Podsumowanie
Poznali Państwo pięcioetapowy cykl życia CUDA: alokacja, kopiowanie danych wejściowych, uruchomienie, kopiowanie wyników, zwolnienie pamięci, a także synchronizację przed odczytaniem wyników. 🎉
Ucz się C++ dzięki korepetycjom AI — za darmo
Pisz i uruchamiaj kod w przeglądarce, otrzymuj natychmiastową pomoc od korepetytora AI dostępnego 24/7 i kontynuuj naukę w sieci lub w aplikacji.
- Kursy
- 30
- Lekcje
- 120
Często zadawane pytania
Czy lekcja „Cykl życia programu CUDA” jest bezpłatna?
Tak — pełny tekst „Cykl życia programu CUDA” jest dostępny za darmo tutaj w sieci. Aby ćwiczyć ją interaktywnie (wbudowany edytor kodu i tutor AI dostępny 24/7) i odblokować resztę kursu CUDA Academy, przejdź na CoddyKit PRO. Kurs CUDA Academy zawiera 4 lekcji w sumie.
Co nauczysz się w „Cykl życia programu CUDA”?
Przydzielać pamięć, kopiować, uruchamiać, kopiować z powrotem i zwalniać. Ćwiczysz CUDA Academy z praktycznym kodem, który uruchamiasz bezpośrednio w przeglądarce, a tutor AI dostępny 24/7 odpowiada na Twoje pytania podczas pracy nad lekcją.
Czy potrzebuję doświadczenia, aby zacząć CUDA Academy?
Nie wymagamy żadnego doświadczenia. CUDA Academy w CoddyKit jest strukturyzowany dla początkujących i zaawansowanych użytkowników, więc możesz zacząć tutaj lub od początku i uczyć się w swoim tempie. To lekcja 4 z 4.
Ile czasu zajmuje lekcja „Cykl życia programu CUDA”?
Większość lekcji CoddyKit trwa około 5–10 minut. Każda lekcja to mały, interaktywny krok, dzięki czemu robisz systematyczne postępy i zawsze wracasz dokładnie do tego samego miejsca — na webie i w aplikacji.
Czy mogę pisać i uruchamiać kod w tej lekcji CUDA Academy?
Tak. Każda lekcja CUDA Academy zawiera wbudowany edytor kodu, więc piszesz i uruchamiasz prawdziwy kod bezpośrednio w przeglądarce i od razu otrzymujesz sprzężenie zwrotne od AI — bez konfiguracji na komputerze.
Wszystkie lekcje w tym kursie
- Kwalifikator funkcji __global__
- Funkcje __device__ i __host__
- Oddzielne przestrzenie adresowe
- Cykl życia programu CUDA