Leer nvidia-smi como un profesional

Considere nvidia-smi el panel de control de su GPU. Un solo comando muestra el modelo, la memoria, la temperatura y lo que se está ejecutando en ese momento. 📊

La línea superior muestra la versión del driver y la versión máxima de CUDA que admite. Consulte aquí primero cuando aparezca un error de versión.

La primera fila de la tabla muestra el nombre de cada GPU y un número de índice. Si tiene varias tarjetas, esos índices le permiten elegir qué dispositivo utilizar.

La columna Memory-Usage muestra la memoria VRAM utilizada frente a la total. Si está casi llena, la siguiente asignación puede fallar con un error de memoria insuficiente.

El porcentaje GPU-Util indica qué tan ocupados están los núcleos. Si el valor permanece en cero mientras se ejecuta su kernel, normalmente significa que el trabajo nunca llegó al dispositivo.

Las columnas Temp y de consumo muestran el estado térmico. Las temperaturas altas sostenidas pueden hacer que la GPU reduzca su frecuencia y ralentice sus kernels sin avisar.

La tabla inferior de Processes muestra todos los programas que usan actualmente la GPU, junto con su PID y la memoria que ocupan. Es muy útil para detectar un proceso olvidado.

Añada una opción para refresh el panel cada segundo y pueda observar cómo cambian la memoria y el uso mientras se ejecuta su programa.

En los scripts, el query mode muestra únicamente los campos que solicita como texto limpio y fácil de analizar, en lugar de la tabla visual completa.

En las tarjetas para centros de datos, nvidia-smi también muestra los conteos de errores de ECC y el modo de persistencia. En portátiles y equipos de escritorio, estos campos suelen estar desactivados o no existir.

Cuando hay varias tarjetas, la opción -i centra el informe en una sola GPU mediante su índice. Es útil cuando solo le interesa el dispositivo que utiliza su trabajo.

Ahora puede leer nvidia-smi como un profesional: la línea del controlador arriba, la memoria y el utilization en la tabla, y los procesos activos abajo. Con un vistazo puede entender toda la situación. ✅