cudaMallocとcudaFree
グローバルメモリを確保し、解放します。
「cudaMallocとcudaFree」はCoddyKit上の無料CUDA Academyレッスンです。 これはレッスン1/4です。 下記で完全なレッスンを無料で読むことができます。その後、ブラウザ内の組み込みコードエディタと24時間対応のAIチューターでハンズオン演習できます。 これはCUDA Academy学習パスの一部であり、ウェブとCoddyKitアプリ全体で進捗が同期されます。 CUDA Academyコースには全4レッスンが含まれています。
GPU には専用の RAM がある
GPU はコンピューターのメインメモリを借りません。カーネルが読み書きする、グローバルメモリと呼ばれる独立したメモリ領域を持っています。🧠
自分で確保する必要がある
カーネルがデバイスメモリを使う前に、必要な領域を自分で確保します。この確保を行う関数が cudaMalloc です。
cudaMalloc のシグネチャ
cudaMalloc はポインターのアドレスとバイト数を受け取ります。そして、そのポインターに新しいデバイスアドレスを設定します。
float* d_data;
cudaMalloc(&d_data, n * sizeof(float));ポインターへのポインターが必要な理由
&d_data を渡すことで、cudaMalloc は新しいアドレスを変数に書き戻せます。戻り値はエラーコード用に使われます。
常にバイト単位で数える
cudaMalloc は要素数ではなく、生のバイト数で考えます。要素数に sizeof(type) を掛けて、バッファを適切なサイズにしてください。
cudaMalloc(&d_arr, count * sizeof(int));cudaFree で解放する
バッファの使用が終わったら、cudaFree を使って GPU に返します。これにより、グローバルメモリをほかの処理で使えるようになります。
cudaFree(d_data);鍵と錠前のようなペア
cudaMalloc と cudaFree は 1 組のペアとして扱ってください。確保するたびに、対応する解放を必ず 1 回行う必要があります。
メモリは初期化されていない
cudaMalloc で確保したばかりのメモリには、意味のない値が入っています。書き込みやデータのコピーを行う前に読み取ると、結果は予測できません。
確保に失敗することもある
GPU のメモリが不足している場合、cudaMalloc はクラッシュする代わりにエラーを返します。実際のコードでは、必ず戻り値を確認してください。
グローバルメモリは豊富だが遅い
cudaMalloc で確保したバッファはグローバルメモリに置かれます。容量は数 GB ありますが、チップ上では最も遅い階層です。十分に使えますが、アクセスパターンには注意してください。
すべてのプログラムの基本リズム
ほぼすべての CUDA プログラムは、同じ流れに従います。cudaMalloc、データのコピー、カーネルの起動、結果のコピー、そして cudaFree です。
簡単な確認
cudaMalloc が対象のポインターをどのように受け取るか確認しましょう。
まとめ
cudaMalloc を使って GPU メモリをバイト単位で確保し、cudaFree で対応する形で解放する方法を学びました。🎉
よくある質問
「cudaMallocとcudaFree」レッスンは無料ですか?
はい。「cudaMallocとcudaFree」の完全なテキストはこのウェブで無料で読めます。インタラクティブに演習し(組み込みコードエディタと24時間対応のAIチューター)、CUDA Academyコースの残りをアンロックするには、CoddyKit PROにアップグレードしてください。 CUDA Academyコースには全4レッスンが含まれています。
「cudaMallocとcudaFree」で何を学びますか?
グローバルメモリを確保し、解放します。 ブラウザで直接実行するハンズオンコードでCUDA Academyを演習し、24時間対応のAIチューターがレッスンを進める中での質問に答えます。
CUDA Academyを始めるのに経験は必要ですか?
事前経験は必要ありません。CoddyKitのCUDA Academyは初級者から上級者向けに構成されているため、ここから始めるか最初から始めて、自分のペースで進むことができます。 これはレッスン1/4です。
「cudaMallocとcudaFree」レッスンにはどのくらい時間がかかりますか?
ほとんどのCoddyKitレッスンは約5~10分かかります。各レッスンはコンパクトでインタラクティブなので、着実に進歩し、ウェブとアプリ全体で正確に前回の場所から再開できます。
このCUDA Academyレッスンでコードを書いて実行できますか?
はい。すべてのCUDA Academyレッスンに組み込みコードエディタが含まれているため、ブラウザでリアルコードを書いて実行し、即座のAIフィードバックを取得できます。ローカル設定は不要です。
このコースのすべてのレッスン
- cudaMallocとcudaFree
- GPUメモリへのポインター
- 初期化にcudaMemsetを使う
- メモリリークと二重解放を防ぐ