CUDA Academy · Lekcja

Końcowa redukcja wieloblokowa

Łączyć sumy częściowe obliczone przez poszczególne bloki.

Lekcja 4 z 413 kroki

Końcowa redukcja wieloblokowa to bezpłatna lekcja CUDA Academy na CoddyKit. To lekcja 4 z 4. Możesz przeczytać całą lekcję poniżej za darmo — a potem ćwiczyć ją interaktywnie w przeglądarce z wbudowanym edytorem kodu i tutorem AI dostępnym 24/7. To część ścieżki edukacyjnej CUDA Academy, a Twój postęp synchronizuje się między webem a aplikacją CoddyKit. Kurs CUDA Academy zawiera 4 lekcji w sumie.

Bloki nie mogą się komunikować

Redukcja wewnątrz bloku jest łatwa, ale bloki działają niezależnie i nie mogą synchronizować się ze sobą w trakcie działania kernela. Dlatego jedno uruchomienie nie może zsumować wszystkiego.

Każdy blok tworzy sumę częściową

Dlatego każdy blok redukuje własny fragment do jednej liczby, czyli sumy częściowej, i zapisuje ją w małej tablicy wynikowej indeksowanej przez blockIdx.

if (tid == 0)
  out[blockIdx.x] = data[0];

Teraz masz mniej wartości

Przy 1000 bloków przechodzisz od miliona danych wejściowych do 1000 sum częściowych. Trudna część jest już za nami; do połączenia pozostała tylko mała tablica.

Strategia pierwsza: uruchom ponownie

Najprostsze zakończenie to drugie uruchomienie tego samego kernela na sumach częściowych. Należy powtarzać je, aż pozostanie tylko jedna wartość.

Rekurencyjnie aż do jednej wartości

Każde przejście zmniejsza tablicę o rozmiar bloku. Kilka rekurencyjnych uruchomień redukuje miliony wartości do jednej końcowej sumy.

Strategia druga: operacje atomowe

Alternatywnie wątek 0 każdego bloku może dodać swoją sumę częściową bezpośrednio do jednej globalnej sumy za pomocą atomicAdd, unikając drugiego kernela.

if (tid == 0)
  atomicAdd(total, data[0]);

Kompromis przy operacjach atomowych

Operacje atomowe są proste i wymagają tylko jednego uruchomienia, ale wiele bloków rywalizujących o ten sam adres może wymusić wykonanie szeregowe. Przy niewielkiej liczbie sum częściowych zwykle nie stanowi to problemu.

Strategia trzecia: pętla grid-stride

Pętla grid-stride pozwala każdemu wątkowi najpierw zsumować wiele elementów w rejestrze, dzięki czemu przed końcowym krokiem potrzeba znacznie mniej bloków.

for (int i = gid; i < n; i += gridDim.x * blockDim.x)
  sum += in[i];

Mniej bloków, mniejszy narzut

Wykonywanie większej ilości pracy na wątek na początku oznacza mniej sum częściowych i mniej uruchomień. Często jest to lepsze niż tworzenie jednego wątku na element.

Najpierw wyzeruj sumę

Jeśli używają Państwo operacji atomowych, należy pamiętać o wyzerowaniu globalnej sumy przed uruchomieniem. W przeciwnym razie sumowanie rozpocznie się od przypadkowych danych pozostałych w tej pamięci.

Wybierz rozwiązanie według rozmiaru problemu

Małe dane dobrze współpracują z operacjami atomowymi dzięki ich prostocie; ogromne dane sprzyjają projektowi dwuprzebiegowemu lub grid-stride. Aby dokonać wyboru, należy wykonać pomiary na własnych danych.

Szybkie sprawdzenie

Proszę zastanowić się, dlaczego jedno uruchomienie kernela nie może bezpośrednio zsumować całej tablicy.

Odpowiedz w interaktywnej lekcji

Podsumowanie

Każdy blok tworzy sumę częściową, a następnie łączysz je za pomocą drugiego uruchomienia, operacji atomowych lub pętli grid-stride. Teraz możesz redukować tablice o dowolnym rozmiarze. 🏁

Bezpłatny start

Ucz się C++ dzięki korepetycjom AI — za darmo

Pisz i uruchamiaj kod w przeglądarce, otrzymuj natychmiastową pomoc od korepetytora AI dostępnego 24/7 i kontynuuj naukę w sieci lub w aplikacji.

Kursy: 30
Lekcje: 120

Zacznij naukę bezpłatnie Wyświetl pełny kurs

Często zadawane pytania

Czy lekcja „Końcowa redukcja wieloblokowa” jest bezpłatna?

Tak — pełny tekst „Końcowa redukcja wieloblokowa” jest dostępny za darmo tutaj w sieci. Aby ćwiczyć ją interaktywnie (wbudowany edytor kodu i tutor AI dostępny 24/7) i odblokować resztę kursu CUDA Academy, przejdź na CoddyKit PRO. Kurs CUDA Academy zawiera 4 lekcji w sumie.

Co nauczysz się w „Końcowa redukcja wieloblokowa”?

Łączyć sumy częściowe obliczone przez poszczególne bloki. Ćwiczysz CUDA Academy z praktycznym kodem, który uruchamiasz bezpośrednio w przeglądarce, a tutor AI dostępny 24/7 odpowiada na Twoje pytania podczas pracy nad lekcją.

Czy potrzebuję doświadczenia, aby zacząć CUDA Academy?

Nie wymagamy żadnego doświadczenia. CUDA Academy w CoddyKit jest strukturyzowany dla początkujących i zaawansowanych użytkowników, więc możesz zacząć tutaj lub od początku i uczyć się w swoim tempie. To lekcja 4 z 4.

Ile czasu zajmuje lekcja „Końcowa redukcja wieloblokowa”?

Większość lekcji CoddyKit trwa około 5–10 minut. Każda lekcja to mały, interaktywny krok, dzięki czemu robisz systematyczne postępy i zawsze wracasz dokładnie do tego samego miejsca — na webie i w aplikacji.

Czy mogę pisać i uruchamiać kod w tej lekcji CUDA Academy?

Tak. Każda lekcja CUDA Academy zawiera wbudowany edytor kodu, więc piszesz i uruchamiasz prawdziwy kod bezpośrednio w przeglądarce i od razu otrzymujesz sprzężenie zwrotne od AI — bez konfiguracji na komputerze.

Wszystkie lekcje w tym kursie

← Powrót do CUDA Academy