CPU เทียบกับ GPU: เวลาแฝงเทียบกับอัตราการประมวลผล

ทั้ง CPU และ GPU ต่างก็ใช้รันโค้ด แต่ถูกสร้างขึ้นเพื่อเป้าหมายที่ตรงข้ามกันโดยสิ้นเชิง อย่างหนึ่งเร่งทำงานเดียวให้เสร็จ ส่วนอีกอย่างประมวลผลงานจำนวนมหาศาลพร้อมกันในคราวเดียว 🏎️

เวลาแฝง คือเวลาที่ใช้ทำงานหนึ่งงานให้เสร็จตั้งแต่เริ่มต้นจนจบ หากคุณต้องการคำตอบเดียวทันที สิ่งที่คุณให้ความสำคัญคือเวลาแฝงต่ำ

อัตราการประมวลผล คือจำนวนงานทั้งหมดที่ทำเสร็จได้ต่อวินาที คุณอาจมีอัตราการประมวลผลสูงได้ แม้งานแต่ละงานจะช้าสักเล็กน้อย

CPU มีแกนประมวลผลประสิทธิภาพสูงจำนวนน้อย พร้อมแคชขนาดใหญ่และเทคนิคอันชาญฉลาด เพื่อเร่งงานหนึ่งงานให้เสร็จเร็วที่สุด

GPU ยอมแลกความเร็วของงานเดียวกับปริมาณงานมหาศาล แกนประมวลผลขนาดเล็กนับพันช่วยกันประมวลผลชุดงานขนาดใหญ่พร้อมกัน

ลองนึกภาพ CPU เป็น ผู้ปฏิบัติงานฝีมือดี จำนวนหนึ่ง และ GPU เป็นกองทัพผู้ปฏิบัติงานธรรมดานับพัน รูปแบบต่างกัน งานที่เหมาะสมก็ต่างกัน

รถสปอร์ตมี เวลาแฝง ต่ำ: การเดินทางหนึ่งครั้งใช้เวลาไม่นาน รถโดยสารมีอัตราการประมวลผลสูง: แต่ละเที่ยวช้ากว่า แต่ขนส่งผู้คนได้มากกว่ามากต่อชั่วโมง 🚌

CPU ใช้ทรานซิสเตอร์กับแคชและการคาดเดาการแยกแขนง ส่วน GPU ใช้ทรานซิสเตอร์กับ หน่วยคำนวณเลขคณิต จึงมีพื้นที่ชิปที่กำลังคำนวณจริงมากกว่า

GPU ไม่ได้ทำให้งานแต่ละงานเร็วขึ้น แต่ซ่อนเวลารอหน่วยความจำที่ช้าด้วยการสลับไปทำงานอื่นที่พร้อมทันที เวลาที่ไม่ได้ใช้งานจึงถูก เติมเต็ม ไม่ได้ถูกกำจัด

สำหรับการตัดสินใจสั้น ๆ ตรรกะที่มีการแยกแขนงมาก หรืองานที่แบ่งย่อยไม่ได้ CPU ที่มีเวลาแฝงต่ำยังคงเป็นเครื่องมือที่เหมาะสม ปริมาณงานไม่ใช่ทุกสิ่ง

ทันทีที่คุณต้องดำเนินการแบบเดียวกันกับรายการนับพันรายการ การประมวลผลแบบขนาน ขนาดมหาศาลของ GPU จะเปลี่ยนงานที่ใช้เวลานานให้เสร็จได้อย่างรวดเร็ว

CPU ใช้แกนประมวลผลขนาดใหญ่จำนวนน้อยเพื่อให้มี เวลาแฝง ต่ำ ส่วน GPU ใช้แกนประมวลผลขนาดเล็กนับพันเพื่อให้มีอัตราการประมวลผลสูง เลือกชิปให้ตรงกับลักษณะงานของคุณ 👍