0Pricing
CUDA Academy · Lekcja

Pamięć stała i jej pamięć podręczna

Tanim kosztem rozgłaszać wartości tylko do odczytu.

Pamięć stała i jej pamięć podręczna to bezpłatna lekcja CUDA Academy na CoddyKit. To lekcja 3 z 4. Możesz przeczytać całą lekcję poniżej za darmo — a potem ćwiczyć ją interaktywnie w przeglądarce z wbudowanym edytorem kodu i tutorem AI dostępnym 24/7. To część ścieżki edukacyjnej CUDA Academy, a Twój postęp synchronizuje się między webem a aplikacją CoddyKit. Kurs CUDA Academy zawiera 4 lekcji w sumie.

Przestrzeń na wartości tylko do odczytu

Pamięć stała to niewielki obszar przeznaczony dla danych, które każdy wątek odczytuje, ale żaden z nich nie zapisuje podczas działania jądra.

Deklarowanie

Tablicę w zakresie globalnym oznacza się kwalifikatorem __constant__. Znajduje się ona poza każdą funkcją i jest widoczna dla wszystkich jąder.

__constant__ float weights[256];

Jest naprawdę mała

Łączna pojemność pamięci stałej na typowych GPU wynosi zaledwie 64 KB. Jest przeznaczona na współczynniki i parametry, a nie na duże zbiory danych.

Wypełnianie po stronie hosta

Do pamięci stałej zapisuje się z procesora CPU za pomocą cudaMemcpyToSymbol, ponieważ same jądra nie mogą jej modyfikować.

cudaMemcpyToSymbol(weights, h_w,
    256 * sizeof(float));

Obsługiwana przez specjalną pamięć podręczną

Odczyty przechodzą przez dedykowaną pamięć podręczną stałą w każdym multiprocesorze. Wartość znajdująca się w pamięci podręcznej wraca niemal tak szybko jak z rejestru.

Supermoc rozgłaszania

Gdy cały warp odczytuje ten sam adres, sprzęt wykonuje jeden odczyt i rozgłasza jego wynik do wszystkich 32 wątków w jednym kroku. 📡

Kluczowy jest ten sam adres

Korzyść zależy od jednolitego dostępu. Jeśli wątki w warpie odczytują różne adresy pamięci stałej, odczyty są szeregowane i przyspieszenie znika.

Odczyt wygląda zwyczajnie

W jądrze pamięć stałą odczytuje się jak dowolną tablicę. Kompilator po cichu kieruje dostęp przez szybką pamięć podręczną stałą.

__global__ void k(float *out, int i) {
    out[i] = weights[0] * 2.0f;
}

Idealna do filtrów

Jądra splotowe i tablice wyszukiwania świetnie się tu sprawdzają, ponieważ każdy wątek wielokrotnie korzysta z tego samego niewielkiego zestawu współczynników.

Ustaw raz, używaj często

Zwykle przesyła się dane do pamięci stałej tylko raz, a następnie uruchamia wiele jąder, które tanio odczytują te niezmienne wartości.

Kiedy jej nie używać

Pomiń pamięć stałą, jeśli dane są duże lub wątki odczytują rozproszone adresy. W takich przypadkach lepiej sprawdzi się zwykła pamięć globalna.

Szybkie sprawdzenie

Kiedy pamięć stała zapewnia największe przyspieszenie?

Podsumowanie: mała, buforowana, rozgłaszana

Dowiedziałeś się, że pamięć stała to niewielka przestrzeń tylko do odczytu, której pamięć podręczna rozgłasza jednolite odczyty do całego warpa. Używaj jej dla małych, współdzielonych wartości. ✨

Często zadawane pytania

Czy lekcja „Pamięć stała i jej pamięć podręczna” jest bezpłatna?

Tak — pełny tekst „Pamięć stała i jej pamięć podręczna” jest dostępny za darmo tutaj w sieci. Aby ćwiczyć ją interaktywnie (wbudowany edytor kodu i tutor AI dostępny 24/7) i odblokować resztę kursu CUDA Academy, przejdź na CoddyKit PRO. Kurs CUDA Academy zawiera 4 lekcji w sumie.

Co nauczysz się w „Pamięć stała i jej pamięć podręczna”?

Tanim kosztem rozgłaszać wartości tylko do odczytu. Ćwiczysz CUDA Academy z praktycznym kodem, który uruchamiasz bezpośrednio w przeglądarce, a tutor AI dostępny 24/7 odpowiada na Twoje pytania podczas pracy nad lekcją.

Czy potrzebuję doświadczenia, aby zacząć CUDA Academy?

Nie wymagamy żadnego doświadczenia. CUDA Academy w CoddyKit jest strukturyzowany dla początkujących i zaawansowanych użytkowników, więc możesz zacząć tutaj lub od początku i uczyć się w swoim tempie. To lekcja 3 z 4.

Ile czasu zajmuje lekcja „Pamięć stała i jej pamięć podręczna”?

Większość lekcji CoddyKit trwa około 5–10 minut. Każda lekcja to mały, interaktywny krok, dzięki czemu robisz systematyczne postępy i zawsze wracasz dokładnie do tego samego miejsca — na webie i w aplikacji.

Czy mogę pisać i uruchamiać kod w tej lekcji CUDA Academy?

Tak. Każda lekcja CUDA Academy zawiera wbudowany edytor kodu, więc piszesz i uruchamiasz prawdziwy kod bezpośrednio w przeglądarce i od razu otrzymujesz sprzężenie zwrotne od AI — bez konfiguracji na komputerze.

Wszystkie lekcje w tym kursie

  1. Rejestry i pamięć lokalna
  2. Kompromisy pamięci globalnej
  3. Pamięć stała i jej pamięć podręczna
  4. Model mentalny hierarchii
← Powrót do CUDA Academy