เหตุใดภาระงานปัญญาประดิษฐ์จึงใช้ GPU

AI ทำคณิตศาสตร์แบบเดียวกันกับตัวเลขนับล้านตัว GPUเหมาะกับงานนี้อย่างยิ่ง เพราะสามารถทำงานเหล่านั้นจำนวนมากพร้อมกันได้

CPU มีแกนที่รวดเร็วไม่กี่แกนสำหรับงานหลากหลายรูปแบบ ส่วน GPU แลกสิ่งนั้นกับแกนที่เรียบง่ายกว่าหลายพันแกน ซึ่งสร้างมาเพื่อการทำงานแบบขนานโดยเฉพาะ

การฝึกและการอนุมานส่วนใหญ่ประกอบด้วยการคูณเมทริกซ์และการดำเนินการรายสมาชิก รูปแบบที่สม่ำเสมอเหล่านี้ตรงกับสิ่งที่ GPU ทำได้ดีอย่างยิ่ง

การบวกเวกเตอร์ขนาดใหญ่สองตัวประกอบด้วยการบวกอิสระนับล้านครั้ง แต่ละครั้งสามารถทำงานบนเธรดของ GPU ได้เองโดยไม่ต้องรอ

GPU อาจเริ่มงานแต่ละงานช้ากว่าเล็กน้อย แต่สามารถทำงานจำนวนมหาศาลให้เสร็จพร้อมกัน คุณจะได้เปรียบในด้านปริมาณงานรวม

GPU ป้อนข้อมูลให้แกนเหล่านั้นด้วยหน่วยความจำที่กว้างและรวดเร็ว แบนด์วิดท์สูงช่วยให้เธรดนับพันได้รับข้อมูลอย่างต่อเนื่อง

ประโยชน์จะมากที่สุดเมื่องานมีขนาดใหญ่และสม่ำเสมอ งานขนาดเล็กหรืองานที่มีแขนงจำนวนมากอาจทำงานได้ดีกว่าบนCPU

Mojo มุ่งให้คุณเขียนโค้ด CPU และ GPU ด้วยภาษาเดียว คุณอธิบายแนวคิดแบบขนานเพียงครั้งเดียว แล้วเลือกอุปกรณ์ที่เหมาะสม

โดยปกติ Python จะส่งงานต่อให้ไลบรารี GPU ซึ่งคุณไม่สามารถมองเห็นการทำงานภายในได้ Mojo เปิดให้คุณเขียนเคอร์เนลที่รวดเร็วด้วยตนเองในโค้ดที่อ่านเข้าใจง่าย

ลองนึกภาพคำสั่งหนึ่งคำสั่งถูกส่งให้ผู้ปฏิบัติงานนับพันคน โดยแต่ละคนทำงานกับช่วงข้อมูลของตนเอง นี่คือจุดแข็งหลักของ GPU

GPU จะช่วยได้ก็ต่อเมื่อคุณป้อนงานและข้อมูลให้มันอย่างต่อเนื่อง การเคลื่อนย้ายข้อมูลที่ไม่มีประสิทธิภาพอาจลบล้างประโยชน์ที่ได้ ดังนั้นรูปร่างของภาระงานจึงมีความสำคัญ

GPU แลกแกนที่รวดเร็วไม่กี่แกนกับแกนเรียบง่ายหลายพันแกน ดังนั้นคณิตศาสตร์เทนเซอร์ขนาดใหญ่ที่มีรูปแบบสม่ำเสมอจึงทำงานแบบขนานและมีปริมาณงานสูงมาก 🚀