Pomiar przyspieszenia
Porównywać wydajność wersji naiwnej i kafelkowanej.
Pomiar przyspieszenia to bezpłatna lekcja CUDA Academy na CoddyKit. To lekcja 4 z 4. Możesz przeczytać całą lekcję poniżej za darmo — a potem ćwiczyć ją interaktywnie w przeglądarce z wbudowanym edytorem kodu i tutorem AI dostępnym 24/7. To część ścieżki edukacyjnej CUDA Academy, a Twój postęp synchronizuje się między webem a aplikacją CoddyKit. Kurs CUDA Academy zawiera 4 lekcji w sumie.
Udowodnij zysk
Zbudowali Państwo kernel z kafelkowaniem, ale o ile rzeczywiście działa on szybciej? Pomiar zamienia przypuszczenie w liczbę, której można zaufać. 📊
Pomiar czasu zegarem GPU
Użyj zdarzeń CUDA do pomiaru czasu działania kerneli. Znajdują się one w strumieniu GPU i dokładnie mierzą moment rozpoczęcia oraz zakończenia pracy.
cudaEvent_t start, stop;
cudaEventCreate(&start);
cudaEventCreate(&stop);Wyznacz granice kernela
Zarejestruj jedno zdarzenie przed uruchomieniem, a drugie po nim, a następnie wykonaj synchronizację, aby pomiar rzeczywiście zaczekał na zakończenie pracy GPU.
cudaEventRecord(start);
matmul<<<g,b>>>(...);
cudaEventRecord(stop);
cudaEventSynchronize(stop);Odczytywanie czasu wykonania
Poproś o różnicę między zdarzeniami w milisekundach. Ta pojedyncza liczba to zmierzony czas działania kernela.
float ms;
cudaEventElapsedTime(&ms, start, stop);Najpierw rozgrzewka
Pierwsze uruchomienie wiąże się z jednorazowymi kosztami konfiguracji. Uruchom kernel rozgrzewkowy przed pomiarem, aby zmierzyć szybkość ustaloną, a nie czas startu.
Uśrednij kilka uruchomień
Pojedynczy pomiar jest obarczony szumem. Zmierz kernel kilka razy i oblicz średnią, aby uzyskać stabilny i wiarygodny wynik.
Oblicz przyspieszenie
Przyspieszenie to po prostu czas wersji naiwnej podzielony przez czas wersji z kafelkowaniem. Wartość 4x oznacza, że kernel z kafelkowaniem działał cztery razy szybciej.
float speedup = naive_ms / tiled_ms;Myśl w GFLOPS
Mnożenie macierzy wykonuje około 2 * N^3 operacji zmiennoprzecinkowych. Podziel tę wartość przez czas, aby podać wydajność w GFLOPS — standardowej miarze.
double gflops = (2.0*N*N*N) / (ms * 1e6);Dlaczego kafelkowanie wygrywa
Przyspieszenie wynika z ograniczenia ruchu danych w pamięci globalnej. Ponowne użycie danych w pamięci współdzielonej zapewnia rdzeniom pracę zamiast zmuszać je do oczekiwania na wolne odczyty.
Zawsze weryfikuj poprawność
Szybki, ale błędny wynik jest bezużyteczny. Przed świętowaniem przyspieszenia porównaj wynik GPU z wynikiem referencyjnym uzyskanym na CPU. ✅
Poznaj granicę możliwości
Nawet mnożenie macierzy z kafelkowaniem ustępuje ręcznie dostrojonemu cuBLAS. Znajomość tej różnicy podpowiada, kiedy dalej optymalizować, a kiedy skorzystać z biblioteki.
Szybkie sprawdzenie
Przypomnij sobie właściwe narzędzie do pomiaru czasu działania kerneli GPU.
Podsumowanie
Zmierzli Państwo czas za pomocą zdarzeń CUDA, wykonali rozgrzewkę, obliczyli średnią, przyspieszenie i GFLOPS oraz zweryfikowali poprawność. Teraz potrafią Państwo udowodnić skuteczność swoich optymalizacji. 🏁
Często zadawane pytania
Czy lekcja „Pomiar przyspieszenia” jest bezpłatna?
Tak — pełny tekst „Pomiar przyspieszenia” jest dostępny za darmo tutaj w sieci. Aby ćwiczyć ją interaktywnie (wbudowany edytor kodu i tutor AI dostępny 24/7) i odblokować resztę kursu CUDA Academy, przejdź na CoddyKit PRO. Kurs CUDA Academy zawiera 4 lekcji w sumie.
Co nauczysz się w „Pomiar przyspieszenia”?
Porównywać wydajność wersji naiwnej i kafelkowanej. Ćwiczysz CUDA Academy z praktycznym kodem, który uruchamiasz bezpośrednio w przeglądarce, a tutor AI dostępny 24/7 odpowiada na Twoje pytania podczas pracy nad lekcją.
Czy potrzebuję doświadczenia, aby zacząć CUDA Academy?
Nie wymagamy żadnego doświadczenia. CUDA Academy w CoddyKit jest strukturyzowany dla początkujących i zaawansowanych użytkowników, więc możesz zacząć tutaj lub od początku i uczyć się w swoim tempie. To lekcja 4 z 4.
Ile czasu zajmuje lekcja „Pomiar przyspieszenia”?
Większość lekcji CoddyKit trwa około 5–10 minut. Każda lekcja to mały, interaktywny krok, dzięki czemu robisz systematyczne postępy i zawsze wracasz dokładnie do tego samego miejsca — na webie i w aplikacji.
Czy mogę pisać i uruchamiać kod w tej lekcji CUDA Academy?
Tak. Każda lekcja CUDA Academy zawiera wbudowany edytor kodu, więc piszesz i uruchamiasz prawdziwy kod bezpośrednio w przeglądarce i od razu otrzymujesz sprzężenie zwrotne od AI — bez konfiguracji na komputerze.
Wszystkie lekcje w tym kursie
- Naiwny kernel mnożenia macierzy
- Kafelkowanie iloczynu skalarnego
- Iterowanie po fazach kafelków
- Pomiar przyspieszenia