Трафареты и скользящие окна

Stencil вычисляет каждый выходной элемент по фиксированному окружению входных данных, например усредняя пиксель с соседними ячейками.

При перемещении вдоль массива окно входных данных сдвигается на один элемент. Соседние выходные элементы используют большую часть одних и тех же входных данных, поэтому повторное использование очень эффективно.

Поскольку соседние области перекрываются, однажды загруженный тайл обслуживает множество выходных элементов. Stencil — классический пример эффективности тайлинга.

Чтобы вычислить края тайла, нужны ещё несколько элементов непосредственно за его пределами. Эти дополнительные пограничные ячейки называются ореолом.

Первому потоку тайла нужен левый сосед, принадлежащий предыдущему тайлу. Без ячеек ореола это чтение будет неверным.

Для stencil с радиусом r загрузите по r дополнительных ячеек с каждой стороны. Размытие по 3 точкам имеет радиус 1, поэтому с каждой стороны достаточно одной ячейки ореола.

Объявите разделяемую память размером blockDim плюс 2 * radius, чтобы в одном аккуратном буфере помещались внутренняя часть и оба ореола.

Сначала каждый поток загружает свой элемент в тайл со смещением radius, оставляя место впереди для левого ореола.

Первые несколько потоков выполняют двойную работу: дополнительно загружают левую и правую ячейки ореола до синхронизации блока.

После __syncthreads каждый поток читает соседей исключительно из тайла, больше не обращаясь к глобальной памяти на этом шаге.

Теперь каждое внутреннее значение обслуживает 2r + 1 выходных элементов после одной загрузки в разделяемую память. Именно этот избыточный обмен данными устраняет тайлинг.

Stencil использует перекрывающиеся скользящие окна, поэтому ореол из r дополнительных ячеек с каждой стороны позволяет тайлу обслужить каждый выходной элемент, загрузив каждое значение один раз. ✅