SIMD Türüyle Tanışın

Normal bir Int tek bir sayı tutar; bu nedenle matematik işlemleri her seferinde bir değer üzerinde gerçekleşir. Yapay zekâ için çoğu zaman aynı anda çok sayıda sayıyı işlemeniz gerekir.

SIMD, Single Instruction, Multiple Data anlamına gelir: tek bir işlem, tek adımda bütün bir sayı grubuna uygulanır.

Mojo'da SIMD türü, aynı türden birkaç değeri birlikte tutar; tek bir birim olarak işlenen küçük, sabit boyutlu bir vektör gibidir.

Bir SIMD türü köşeli parantez içinde iki parametre alır: öğe DType'ı ve tuttuğu şerit sayısı; örneğin SIMD[DType.int32, 4].

İlk parametre float32 veya int32 gibi bir DType'tır. Her şeridin ne tutacağını ve ne kadar yer kaplayacağını belirler.

İkinci parametre genişliktir: yan yana paketlenmiş değerlerin sayısıdır. 4 genişliği, dört sayının birlikte ilerlemesi anlamına gelir.

SIMD genişlikleri 1, 2, 4, 8 veya 16 gibi ikinin kuvvetleridir. Bu, CPU'nuzun sunduğu şeritlere kolayca eşlenir.

Mojo'da sıradan bir sayı bile aslında genişliği 1 olan bir SIMD'dir. Skalerler ve vektörler aynı temel türü paylaşır.

Bir liste gibi tek bir şeridi indeksini kullanarak okuyabilirsiniz. 0. şerit, vektördeki ilk değerdir.

Tek bir değer geçirmek, tüm şeritleri o değerle doldurur. Bu, sabit değerlerden oluşan bir SIMD vektörü oluşturmanın hızlı bir yoludur.

CPU tek bir yönergede bütün bir paket üzerinde çalıştığı için SIMD, döngü başına daha fazla iş yapar. Vektörleştirmenin özü budur.

SIMD, aynı türden birkaç değeri DType ve ikinin kuvveti olan bir genişlikle belirlenen tek bir vektör kümesinde paketler; böylece tek bir yönerge hepsine birden dokunur. 🚀