อ่าน nvidia-smi อย่างมืออาชีพ

ลองนึกภาพ nvidia-smi เป็นแผงควบคุมของ GPU คำสั่งเดียวจะแสดงรุ่น หน่วยความจำ อุณหภูมิ และสิ่งที่กำลังทำงานอยู่ในขณะนี้ 📊

บรรทัดบนสุดจะแสดง รุ่นไดรเวอร์และ CUDA สูงสุดที่รองรับ ตรวจสอบตรงนี้ก่อนเสมอเมื่อเกิดข้อผิดพลาดเกี่ยวกับรุ่น

แถวแรกของตารางจะแสดง ชื่อของ GPU แต่ละตัวและหมายเลขดัชนี เมื่อมีการ์ดหลายใบ ดัชนีเหล่านี้ใช้เลือกอุปกรณ์ที่จะใช้งาน

คอลัมน์ การใช้หน่วยความจำจะแสดง VRAM ที่ใช้อยู่เทียบกับทั้งหมด หากใกล้เต็ม การจัดสรรครั้งถัดไปอาจล้มเหลวด้วยข้อผิดพลาดหน่วยความจำไม่เพียงพอ

เปอร์เซ็นต์ GPU-Util บอกว่าแกนประมวลผลกำลังทำงานหนักเพียงใด หากค่าค้างอยู่ที่ศูนย์ขณะที่เคอร์เนลกำลังทำงาน โดยทั่วไปหมายความว่างานยังไปไม่ถึงอุปกรณ์

คอลัมน์ Temp และพลังงานแสดงสถานะด้านความร้อน หากอุณหภูมิสูงต่อเนื่อง GPU อาจลดความถี่ลงและทำให้เคอร์เนลทำงานช้าลงโดยไม่แจ้งให้ทราบ

ตาราง Processes ด้านล่างแสดงโปรแกรมทุกโปรแกรมที่กำลังใช้ GPU อยู่ พร้อม PID และปริมาณหน่วยความจำที่ใช้ เหมาะสำหรับค้นหางานที่ลืมปิดไว้

เพิ่มตัวเลือกเพื่อ refresh แผงข้อมูลทุกวินาที ทำให้คุณดูการเปลี่ยนแปลงของหน่วยความจำและการใช้งานได้ขณะที่โปรแกรมทำงาน

สำหรับสคริปต์ query mode จะแสดงเฉพาะช่องข้อมูลที่คุณระบุเป็นข้อความสะอาดซึ่งแยกวิเคราะห์ได้ แทนที่จะแสดงตารางภาพทั้งหมด

บนการ์ดสำหรับศูนย์ข้อมูล nvidia-smi ยังรายงานจำนวนข้อผิดพลาดของ ECC และโหมดการคงสถานะด้วย สำหรับแล็ปท็อปและเดสก์ท็อป ช่องข้อมูลเหล่านี้มักปิดใช้งานหรือไม่มีอยู่

เมื่อมีการ์ดหลายใบ ตัวเลือก -i จะจำกัดรายงานให้แสดง GPU เดียวตามดัชนี เหมาะเมื่อคุณสนใจเฉพาะอุปกรณ์ที่งานของคุณกำลังใช้งาน

ตอนนี้คุณสามารถอ่าน nvidia-smi ได้อย่างคล่องแคล่วแล้ว: บรรทัดไดรเวอร์อยู่ด้านบน ตารางแสดงหน่วยความจำและ การใช้งาน และด้านล่างแสดงกระบวนการที่กำลังทำงานอยู่ เพียงมองแวบเดียวก็เห็นภาพทั้งหมด ✅