Квалификатор функции __global__

Ваш файл CUDA содержит код и CPU, и GPU. Небольшое ключевое слово сообщает компилятору, к какой стороне относится функция. Это ключевое слово называется квалификатором функции. ⚡

Квалификатор __global__ обозначает функцию как ядро GPU: код, который запускает CPU, но фактически выполняет GPU в множестве потоков.

Функция __global__ — единственный вид функции, который может вызвать хост, а выполнить устройство. Она служит мостом между двумя мирами.

Ядро должно возвращать void. Оно не может передать значение обратно CPU, поэтому результаты передаются через память.

При запуске ядра __global__ CPU не ждёт. Вызов немедленно возвращает управление, пока GPU работает в фоновом режиме. 🚀

Одно определение __global__ выполняется одновременно в тысячах потоков. Вы пишете тело один раз, а GPU распределяет эту работу по ядрам.

Для вызова ядра нужны специальные тройные угловые скобки, задающие число выполняющихся потоков. Одних обычных круглых скобок недостаточно.

Аргументы ядра копируются на устройство. Для массивов передавайте указатели на память устройства, поскольку указатель хоста не имеет смысла на GPU.

Не путайте их: __global__ — это точка входа, которую можно запустить, а функции __device__ — вспомогательные функции, вызываемые только из кода GPU.

Ядро __global__ не может напрямую вызвать само себя, как это делают функции хоста. Классическая рекурсия должна находиться во вспомогательных функциях устройства.

Освоив __global__, вы откроете путь ко всему последующему: каждое написанное, запускаемое и оптимизируемое вами ядро начинается с этого небольшого ключевого слова.

Вы узнали, что __global__ обозначает ядро GPU: его вызывает хост, выполняет устройство, оно возвращает void и запускается тройными угловыми скобками. 🎉