Was CUDA tatsächlich ist

Sie haben gesehen, warum GPUs schnell sind. CUDA ist das Werkzeug, mit dem Sie tatsächlich Code für sie in C++ schreiben. Jetzt lernen Sie CUDA genauer kennen. 🚀

CUDA ist die Plattform von NVIDIA für universelle GPU-Berechnungen. Sie ermöglicht es Ihnen, eigene Programme auf der GPU auszuführen, nicht nur Grafiken.

CUDA C++ ist einfach C++ mit einigen zusätzlichen Schlüsselwörtern und Funktionen. Wenn Sie C++ kennen, wird sich ein Großteil von CUDA von Anfang an vertraut anfühlen.

Eine Funktion, die Sie für die Ausführung auf der GPU kennzeichnen, wird Kernel genannt. Tausende Threads führen diese eine Funktion jeweils parallel aus.

Die Markierung __global__ kennzeichnet eine Funktion als Kernel: Sie kann von der CPU aufgerufen, wird aber auf der GPU ausgeführt. Sie ist Ihr Zugang zum Gerät.

In der CUDA-Terminologie ist die CPU-Seite der Host und die GPU-Seite das Device. Sie werden diese beiden Begriffe ständig hören, also merken Sie sie sich jetzt gut.

CUDA bietet Ihnen eine benutzerfreundliche Runtime API: Funktionen wie cudaMalloc und cudaMemcpy verwalten den GPU-Speicher und verschieben Daten für Sie.

Sie erstellen CUDA-Code mit nvcc. Das Programm teilt Ihre Datei auf, übergibt den Host-Code an Ihren normalen Compiler und den Device-Code an den GPU-Compiler.

CUDA läuft ausschließlich auf NVIDIA-GPUs. Diese enge Bindung sorgt für die gute Optimierung, bedeutet aber auch, dass CUDA herstellerspezifisch ist.

CUDA liefert optimierte Bibliotheken wie cuBLAS für Matrizen und cuDNN für Deep Learning mit. Deshalb müssen Sie anspruchsvolle Probleme nur selten von Grund auf lösen.

Ausgereifte Werkzeuge, schnelle Bibliotheken und die starke Unterstützung durch das Ökosystem haben CUDA heute zum Standard für GPU-Berechnungen in Wissenschaft und KI gemacht.

CUDA ist die Plattform von NVIDIA, die C++ um Kernel, eine Runtime API und den Compiler nvcc erweitert, damit Ihr Code auf der GPU ausgeführt werden kann. 👍