สร้างและใช้สตรีม
ส่งคิวงานอิสระหลายชุด
สร้างและใช้สตรีม เป็นบทเรียน CUDA Academy ฟรีบน CoddyKit นี่คือบทเรียนที่ 2 จากทั้งหมด 4 บทเรียน คุณสามารถอ่านบทเรียนทั้งหมดด้านล่างฟรี — จากนั้นลองปฏิบัติด้วยตัวคุณเองในเบราว์เซอร์พร้อมตัวแก้ไขโค้ดในตัวและติวเตอร์ AI ตลอด 24/7 บทเรียนนี้เป็นส่วนหนึ่งของเส้นทางการเรียน CUDA Academy และความก้าวหน้าของคุณจะซิงค์ข้ามเว็บและแอป CoddyKit คอร์ส CUDA Academy มีบทเรียนทั้งหมด 4 บทเรียน
คิวงานที่เป็นอิสระต่อกัน
สตรีม ที่ไม่ใช่สตรีมเริ่มต้นคือคิวงานของคุณเอง สตรีมสองสตรีมทำงานแยกจากกันได้ ดังนั้น GPU จึงคืบหน้าในทั้งสองสตรีมได้พร้อมกัน 🧵
แฮนเดิลของสตรีม
สตรีมอยู่ในแฮนเดิล cudaStream_t คุณสร้างแฮนเดิลหนึ่งครั้ง ส่งแฮนเดิลไปกับการเรียกใช้ต่าง ๆ แล้วทำลายเมื่อใช้งานเสร็จ
cudaStream_t stream;การสร้างสตรีม
เรียกใช้ cudaStreamCreate เพื่อสร้างสตรีมใหม่ ฟังก์ชันนี้จะจัดสรรคิวที่ไดรเวอร์ใช้จัดตารางงานของสตรีมนั้น
cudaStreamCreate(&stream);การเปิดใช้เคอร์เนลในสตรีม
การกำหนดค่าการเปิดใช้เคอร์เนลมีอาร์กิวเมนต์ตัวที่ สี่: ขนาดหน่วยความจำที่ใช้ร่วมกัน แล้วจึงเป็นสตรีม ส่งสตรีมของคุณเข้าไปเพื่อจัดคิวเคอร์เนลในสตรีมนั้น
kernel<<<grid, block, 0, stream>>>(d_data);สองสตรีม สองงาน
วางงานหนึ่งไว้ใน streamA และอีกงานไว้ใน streamB เมื่อทั้งสองงานไม่มีการขึ้นต่อกัน GPU ก็สามารถทำงานทั้งสองอย่าง พร้อมกัน ได้
kA<<<g, b, 0, streamA>>>(a);
kB<<<g, b, 0, streamB>>>(d);ทำงานแบบอะซิงโครนัสโดยธรรมชาติ
การเรียกใช้สตรีมเป็นแบบ อะซิงโครนัส: โฮสต์จะคืนค่าทันทีและทำงานต่อ ส่วน GPU จะประมวลผลคิวตามจังหวะของตนเอง
รอคอยสตรีมเดียว
ใช้ cudaStreamSynchronize เพื่อบล็อกโฮสต์จนกว่าสตรีมนั้นจะทำงานเสร็จ แทนที่จะรอทั้งอุปกรณ์
cudaStreamSynchronize(stream);ตรวจสอบโดยไม่บล็อก
ต้องการตรวจดูหรือไม่ cudaStreamQuery จะคืนค่า cudaSuccess หากสตรีมทำงานเสร็จแล้ว และคืนค่า cudaErrorNotReady หากยังทำงานอยู่ โดยไม่ทำให้คุณต้องหยุดรอ
cudaStreamQuery(stream);การล้างทรัพยากร
เมื่อไม่ต้องใช้สตรีมแล้ว ให้คืนทรัพยากรด้วย cudaStreamDestroy งานที่ค้างอยู่จะยังทำงานจนเสร็จก่อนที่จะคืนแฮนเดิล
cudaStreamDestroy(stream);สตรีมแบบไม่บล็อก
สร้างสตรีมด้วยแฟล็ก cudaStreamNonBlocking เพื่อไม่ให้สตรีมนั้นซิงโครไนซ์กับสตรีมเริ่มต้นแบบเดิมโดยปริยาย
cudaStreamCreateWithFlags(&s, cudaStreamNonBlocking);สตรีมมากขึ้น การทำงานซ้อนกันมากขึ้น
การกระจายส่วนงานที่ไม่ขึ้นต่อกันไปยังหลายสตรีมช่วยให้ตัวจัดตารางมีงานป้อนให้หน่วยต่าง ๆ อย่างต่อเนื่อง แต่เมื่อมีมากเกินสองสามสตรีม ผลตอบแทนจะ ลดลง เพราะฮาร์ดแวร์เต็มความสามารถแล้ว
ตรวจสอบความเข้าใจอย่างรวดเร็ว
คุณจะจัดคิวเคอร์เนลลงในสตรีมที่ระบุได้อย่างไร
ทบทวน
ตอนนี้คุณสามารถ สร้างสตรีม เปิดใช้เคอร์เนลในสตรีม ซิงโครไนซ์หรือตรวจสอบสถานะ และทำลายสตรีมได้แล้ว สตรีมที่เป็นอิสระต่อกันช่วยให้เกิดการทำงานพร้อมกันอย่างแท้จริง ✨
คำถามที่พบบ่อย
บทเรียน “สร้างและใช้สตรีม” ฟรีหรือไม่
ใช่ — ข้อความเต็มของ “สร้างและใช้สตรีม” ฟรีให้อ่านที่นี่บนเว็บ เพื่อปฏิบัติแบบโต้ตอบ (ตัวแก้ไขโค้ดในตัวและติวเตอร์ AI ตลอด 24/7) และปลดล็อคส่วนที่เหลือของคอร์ส CUDA Academy ให้อัปเกรดเป็น CoddyKit PRO คอร์ส CUDA Academy มีบทเรียนทั้งหมด 4 บทเรียน
คุณจะเรียนรู้อะไรในบทเรียน “สร้างและใช้สตรีม”
ส่งคิวงานอิสระหลายชุด คุณปฏิบัติ CUDA Academy ด้วยโค้ดที่ใช้งานได้จริงที่คุณเรียกใช้โดยตรงในเบราว์เซอร์ และติวเตอร์ AI ตลอด 24/7 ตอบคำถามของคุณขณะที่คุณไปผ่านบทเรียน
คุณต้องมีประสบการณ์ก่อนที่จะเริ่มเรียน CUDA Academy หรือไม่
ไม่จำเป็นต้องมีประสบการณ์มาก่อน CUDA Academy บน CoddyKit ออกแบบมาสำหรับผู้เริ่มต้นไปจนถึงผู้เรียนขั้นสูง คุณสามารถเริ่มต้นที่นี่หรือเริ่มจากตัวแรกและเรียนด้วยความเร็วของคุณเอง นี่คือบทเรียนที่ 2 จากทั้งหมด 4 บทเรียน
บทเรียน “สร้างและใช้สตรีม” ใช้เวลานานแค่ไหน
บทเรียน CoddyKit ส่วนใหญ่ใช้เวลาประมาณ 5–10 นาที แต่ละบทเรียนจึงสั้นและเป็นแบบโต้ตอบ คุณสามารถก้าวหน้าอย่างต่อเนื่องและกลับมาเรียนต่อจากตรงที่เพิ่งหยุดบนเว็บและแอปได้เลย
ฉันเขียนและรันโค้ดในบทเรียน CUDA Academy นี้ได้ไหม
ได้ บทเรียน CUDA Academy ทุกบทมีตัวแก้ไขโค้ดในตัว คุณจึงเขียนและรันโค้ดจริงได้เลยในเบราว์เซอร์ และได้รับข้อเสนอแนะจาก AI ในทันที — ไม่ต้องติดตั้งในเครื่องของคุณ