มุมมองเส้นเวลาใน Nsight Systems

ระบบ Nsight คือเครื่องมือวิเคราะห์ประสิทธิภาพที่มองเห็นภาพรวมจากมุมสูง โดยแสดงเส้นเวลาทั้งหมดของโปรแกรม เพื่อให้คุณมองเห็นว่า GPU หยุดรออยู่ตรงไหน 🔭

เส้นเวลา จะวางการดำเนินการทุกอย่างลงบนแกนเวลา คุณจะเห็นได้ทันทีว่าสิ่งใดทำงานเมื่อใด และแต่ละส่วนใช้เวลานานเท่าไร โดยแสดงเทียบกันเคียงข้าง

คุณบันทึกการทำงานหนึ่งครั้งด้วย nsys จากบรรทัดคำสั่ง โดยจะเก็บกิจกรรมของ GPU และ CPU ไว้ในรายงานเดียวที่เปิดดูภายหลังได้

แต่ละ แถว คือกระแสกิจกรรม เช่น เธรดของ CPU การเรียกส่วนต่อประสาน CUDA เคอร์เนล และการคัดลอกหน่วยความจำ การอ่านแถวเหล่านี้ร่วมกันจะช่วยเล่าเรื่องราวทั้งหมด

พื้นที่ว่างบนแถวของ GPU คือ ช่องว่าง ซึ่งหมายถึงช่วงเวลาที่ GPU ไม่ได้ทำงาน ช่องว่างเหล่านี้เป็นเบาะแสสำคัญที่สุดว่าสิ่งใดกำลังรออยู่ ⏳

บนเส้นเวลา การคัดลอกหน่วยความจำ และเคอร์เนลจะอยู่คนละช่อง หากการคัดลอกกินเวลาส่วนใหญ่ ต้นทุนที่แท้จริงก็คือการเคลื่อนย้ายข้อมูล

เมื่อการคัดลอกและเคอร์เนลทำงานพร้อมกัน แถบของทั้งสองจะ ซ้อนกัน บนกระแสคนละสาย การซ้อนกันเป็นเรื่องดี เพราะแสดงว่า GPU ยังคงทำงานอยู่

ภาพรวมอาจซ่อนรายละเอียด ดังนั้นให้ ซูมเข้าบริเวณที่ทำงานช้า เมื่อดูใกล้ ๆ คุณจะวัดเวลาของเคอร์เนลหรือการคัดลอกหนึ่งรายการได้อย่างแม่นยำ

เมื่อวางเมาส์เหนือแถบใด ๆ จะแสดง ระยะเวลาและชื่อที่แน่นอน วิธีนี้จะเปลี่ยนความรู้สึกกว้าง ๆ ว่าช้า ให้กลายเป็นตัวเลขชัดเจนที่คุณนำไปแก้ไขได้

บางครั้ง GPU ต้องรอเพราะ CPU กำลังยุ่งอยู่กับการเตรียมงาน เส้นเวลาจะแสดงการหยุดรอที่ฝั่งโฮสต์เหล่านี้ได้อย่างชัดเจนเช่นกัน

ระบบ Nsight ตอบคำถามว่าเวลาในแอปพลิเคชันทั้งหมดถูกใช้ไป ที่ใด หากต้องการรายละเอียดเชิงลึกของเคอร์เนลแต่ละรายการ คุณต้องเปลี่ยนไปใช้เครื่องมืออื่น

คุณเห็นช่วงว่างยาวบนแถวของ GPU

ระบบ Nsight มอบ เส้นเวลาให้คุณเห็นช่องว่าง การคัดลอก เคอร์เนล และการทำงานซ้อนกันในพริบตา เริ่มต้นที่นี่เพื่อค้นหาว่าเวลาของคุณถูกใช้ไปที่ใดจริง ๆ 👏