CPU kontra GPU: latenstid kontra gjennomstrømning
Slik skiller noen få store kjerner seg fra tusenvis av små
CPU kontra GPU: latenstid kontra gjennomstrømning er en gratis leksjon i CUDA Academy på CoddyKit. Dette er leksjon 1 av 4. Du kan lese hele leksjonen gratis nedenfor – og deretter øve praktisk i nettleseren med en innebygd kodeeditor og en AI-veileder som er tilgjengelig døgnet rundt. Den er en del av læringsløpet i CUDA Academy, og fremdriften din synkroniseres mellom nettet og CoddyKit-appen. Kurset i CUDA Academy inneholder totalt 4 leksjoner.
To svært ulike brikker
En CPU og en GPU kjører begge kode, men de er laget for motsatte mål. Den ene raser for å fullføre én enkelt oppgave; den andre oversvømmer en hel vegg med arbeid på én gang. 🏎️
Latenstid: Hvor raskt én ting blir ferdig
Latenstid er tiden det tar å fullføre én enkelt oppgave fra start til slutt. Når De vil ha ett svar med en gang, er lav latenstid det som betyr noe.
Gjennomstrømning: Hvor mye som blir ferdig per sekund
Gjennomstrømning er hvor mange oppgaver De fullfører totalt per sekund. De kan ha høy gjennomstrømning selv om hver enkelt oppgave er litt treg.
CPU-en er en latenstidsmaskin
En CPU har noen få kraftige kjerner med enorme hurtigbuffere og smarte teknikker for å få én oppgave i mål så raskt som mulig.
GPU-en er en gjennomstrømningsmaskin
En GPU bytter hastighet for enkeltoppgaver mot stort volum: tusenvis av små kjerner arbeider seg gjennom enorme arbeidsmengder samtidig.
Få store kjerner mot mange små kjerner
Tenk på en CPU som en håndfull sterke arbeidere og en GPU som en hær av tusenvis av enkle arbeidere. Ulike former for ulike oppgaver.
Motorveianalogien
En sportsbil har lav latenstid: én tur går raskt. En buss har høy gjennomstrømning: hver tur tar lengre tid, men den frakter langt flere personer per time. 🚌
Hvorfor GPU-er bruker mindre på styring
CPU-er bruker transistorer på hurtigbuffere og grenprediksjon. GPU-er bruker dem på rene aritmetikkenheter, slik at en større del av brikken faktisk utfører matematikk.
Å skjule latenstid i stedet for å unngå den
En GPU gjør ikke hver oppgave rask; den skjuler venting på tregt minne ved å bytte umiddelbart til annet arbeid som er klart. Inaktiv tid blir fylt, ikke fjernet.
Når CPU-en fortsatt vinner
For én rask avgjørelse, forgrenet logikk eller en oppgave som ikke kan deles opp, er den latenseffektive CPU-en fortsatt det riktige verktøyet. Volum er ikke alt.
Når GPU-en får forspranget
Så snart De skal kjøre den samme operasjonen på tusenvis av elementer, gjør GPU-ens enorme parallellitet en langvarig jobb rask.
Rask sjekk
La oss tydeliggjøre det viktigste kompromisset mellom disse to brikkene.
Oppsummering: Latenstid mot gjennomstrømning
CPU-er bruker noen få store kjerner for lav latenstid; GPU-er bruker tusenvis av små kjerner for høy gjennomstrømning. Velg brikken som passer arbeidsoppgaven. 👍
Lær deg C++ med en AI-veileder – gratis
Skriv og kjør ekte kode i nettleseren, få umiddelbar hjelp fra en AI-veileder som er tilgjengelig døgnet rundt, og fortsett der du slapp – på nettet eller i appen.
- Kurs
- 30
- Leksjoner
- 120
Ofte stilte spørsmål
Er leksjonen «CPU kontra GPU: latenstid kontra gjennomstrømning» gratis?
Ja – hele teksten i «CPU kontra GPU: latenstid kontra gjennomstrømning» er gratis å lese her på nettet. For å øve interaktivt med en innebygd kodeeditor og en AI-veileder som er tilgjengelig døgnet rundt, og for å låse opp resten av CUDA Academy-kurset, kan du oppgradere til CoddyKit PRO. Kurset i CUDA Academy inneholder totalt 4 leksjoner.
Hva lærer jeg i «CPU kontra GPU: latenstid kontra gjennomstrømning»?
Slik skiller noen få store kjerner seg fra tusenvis av små Du øver på CUDA Academy med praktisk kode som du kjører direkte i nettleseren, mens en AI-veileder som er tilgjengelig døgnet rundt, svarer på spørsmålene dine mens du jobber deg gjennom leksjonen.
Trenger jeg erfaring for å begynne med CUDA Academy?
Ingen tidligere erfaring er nødvendig. CUDA Academy på CoddyKit er lagt opp for både nybegynnere og viderekomne, så De kan begynne her eller helt fra start og lære i Deres eget tempo. Dette er leksjon 1 av 4.
Hvor lang tid tar leksjonen «CPU kontra GPU: latenstid kontra gjennomstrømning»?
De fleste CoddyKit-leksjoner tar omtrent 5–10 minutter. Hver leksjon er kort og interaktiv, slik at De gjør jevne fremskritt og kan fortsette akkurat der De slapp – både på nettet og i appen.
Kan jeg skrive og kjøre kode i denne CUDA Academy-leksjonen?
Ja. Alle CUDA Academy-leksjoner har en innebygd kodeeditor, slik at De kan skrive og kjøre ekte kode direkte i nettleseren og få umiddelbar tilbakemelding fra AI – uten lokal konfigurering.
Alle leksjonene i dette kurset
- CPU kontra GPU: latenstid kontra gjennomstrømning
- SIMT: samme instruksjon, mange tråder
- Hva CUDA egentlig er
- Problemer som passer GPU-en