ปัญหาที่เหมาะกับ GPU

GPU มีประสิทธิภาพสูง แต่จะโดดเด่นกับปัญหาที่มีรูปแบบเฉพาะ การเรียนรู้ที่จะสังเกตรูปแบบนั้นช่วยลดความพยายามที่สูญเปล่าได้มาก 🔍

กรณีในอุดมคติคือ งานที่ ประมวลผลแบบขนานได้อย่างง่ายดาย: มีรายการจำนวนมาก แต่ละรายการจัดการด้วยวิธีเดียวกัน และไม่มีรายการใดขึ้นต่ออีกรายการ

หากคุณพูดได้ว่าให้นำขั้นตอนเดียวกันนี้ไปใช้กับทุกองค์ประกอบ นั่นคือรูปแบบงานที่เหมาะอย่างยิ่ง รูปแบบสม่ำเสมอนี้จับคู่กับ เธรดนับพันได้พอดี

งาน GPU ที่ดีที่สุดมีหน่วยงาน อิสระต่อกัน เมื่อองค์ประกอบที่ 5 ไม่ต้องใช้ผลลัพธ์ขององค์ประกอบที่ 4 เธรดก็ทำงานได้อย่างอิสระโดยไม่ต้องรอ

ตัวกรองภาพเป็นตัวอย่างที่เหมาะอย่างยิ่ง เพราะแต่ละ พิกเซลสามารถเพิ่มความสว่างหรือเบลอได้ด้วยตัวเอง จึงประมวลผลนับล้านพิกเซลพร้อมกันได้ 🖼️

การบวก การปรับสเกล หรือการคูณ เวกเตอร์และเมทริกซ์ขนาดใหญ่มหาศาลเหมาะอย่างยิ่ง ผลลัพธ์แต่ละรายการขึ้นอยู่กับข้อมูลนำเข้าเพียงไม่กี่รายการ จึงเหมาะกับแกนประมวลผลแบบขนาน

โครงข่ายประสาทเทียมส่วนใหญ่คือการคูณ เมทริกซ์ขนาดใหญ่ซ้ำ ๆ หลายล้านครั้ง การคำนวณที่หนักและเป็นรูปแบบสม่ำเสมอนี้ตรงกับจุดแข็งของ GPU อย่างพอดี

งานที่เต็มไปด้วย การพึ่งพากัน ซึ่งแต่ละขั้นตอนต้องรอขั้นตอนก่อนหน้า จะทำงานได้ไม่ดีบน GPU มีงานให้ทำแบบขนานน้อย แกนประมวลผลจึงว่างอยู่

โค้ดที่มี การแยกแขนงมากและลำดับการควบคุมไม่สม่ำเสมอทำให้วาร์ปแตกแขนง GPU จึงสูญเสียข้อได้เปรียบด้านความเร็วไปมาก

แม้งานจะเหมาะสมเพียงใดก็อาจไม่คุ้มค่า หากการคัดลอกข้อมูลไปยัง GPU มีต้นทุนสูงกว่างานที่ประหยัดได้ ควรประเมินค่าใช้จ่ายแฝงของ การถ่ายโอนนี้ก่อนเสมอ

ลองถามตัวเองว่า มีรายการจำนวนมาก ใช้การดำเนินการเดียวกัน และแทบไม่มี การพึ่งพากันระหว่างรายการหรือไม่ หากใช่ GPU น่าจะช่วยเพิ่มประสิทธิภาพได้มาก

GPU เหมาะกับงานที่ ประมวลผลแบบขนานได้อย่างง่ายดาย: มีรายการจำนวนมาก ใช้การดำเนินการเดียวกัน และพึ่งพากันน้อย คำนึงถึงต้นทุนการถ่ายโอนข้อมูลและหลีกเลี่ยงตรรกะที่มีการแยกแขนงมาก 👍