Dimensione correctamente las instancias y réplicas
Adapte el hardware a los perfiles de carga reales.
Dimensione correctamente las instancias y réplicas es una lección gratuita de MLOps Academy en CoddyKit. Esta es la lección 1 de 4. Puedes leer la lección completa abajo gratuitamente — luego la practicas en el navegador con un editor de código integrado y un tutor de IA 24/7. Forma parte de la ruta de aprendizaje de MLOps Academy, y tu progreso se sincroniza en la web y la app de CoddyKit. El curso de MLOps Academy incluye 4 lecciones en total.
Pague solo por lo que usa
La mayoría de los costes de servir modelos de ML procede de instancias que están medio inactivas. El dimensionamiento adecuado consiste en ajustar el hardware y el número de réplicas a su carga real, no a un temor al peor caso.
Mida antes de reducir
No puede dimensionar correctamente lo que no ha medido. Empiece observando el uso de CPU y memoria real durante un día normal de tráfico.
La trampa del sobredimensionamiento
Elegir una instancia enorme por si acaso parece seguro, pero consume dinero cada hora. Un uso crónicamente bajo es la señal más clara de sobredimensionamiento.
Interprete el uso
Si el uso medio de la CPU se sitúa cerca del 15 por ciento, su instancia es demasiado grande. Apunte a un uso objetivo saludable, con margen para picos breves.
kubectl top pods -n servingEscalado vertical frente a horizontal
El escalado vertical proporciona una máquina más grande a una réplica. El escalado horizontal añade más réplicas pequeñas, lo que suele gestionar mejor el tráfico irregular.
Establezca solicitudes y límites
En Kubernetes, su solicitud de recursos indica al planificador cuánto necesita realmente cada réplica. Establézcala a partir del uso observado, no de una estimación aproximada.
resources:
requests:
cpu: "500m"
memory: "1Gi"Elija el número adecuado de réplicas
Muy pocas réplicas provocan solicitudes en cola y respuestas lentas. Demasiadas implican pods inactivos por los que sigue pagando. Dimensione las réplicas según su carga simultánea máxima.
Deje que el autoescalado siga la demanda
Un Horizontal Pod Autoscaler añade réplicas cuando aumenta la carga y las elimina cuando disminuye, para que deje de pagar por capacidad fuera de las horas punta.
kubectl autoscale deploy model --min 2 --max 10 --cpu-percent 60Mantenga un nivel mínimo de seguridad
Un número mínimo de réplicas mantiene algunos pods preparados para que el tráfico nunca llegue a un servicio vacío y en frío. Este es el equilibrio entre el coste y la disponibilidad.
Las máquinas con GPU son caras
Las instancias con GPU cuestan muchas veces más que las de CPU. Solicite una GPU solo cuando su modelo realmente la necesite y concentre el trabajo para que nunca quede inactiva.
El dimensionamiento adecuado es continuo
Los patrones de tráfico cambian con el paso de las semanas y los meses. Revise periódicamente el tipo de instancia y el número de réplicas para que su flota siga siendo adecuada.
Comprobación rápida
Veamos qué le está indicando un uso bajo.
Resumen
Ha medido el uso, ha elegido entre el escalado vertical y horizontal, ha establecido solicitudes y ha añadido autoescalado. Ahora su flota se ajusta a la demanda real. 💸
Preguntas frecuentes
¿La lección «Dimensione correctamente las instancias y réplicas» es gratis?
Sí — el texto completo de «Dimensione correctamente las instancias y réplicas» es gratis para leer aquí en la web. Para practicarla de forma interactiva (editor de código integrado y tutor de IA 24/7) y desbloquear el resto del curso de MLOps Academy, actualiza a CoddyKit PRO. El curso de MLOps Academy incluye 4 lecciones en total.
¿Qué aprenderé en «Dimensione correctamente las instancias y réplicas»?
Adapte el hardware a los perfiles de carga reales. Practicas MLOps Academy con código real que ejecutas directamente en el navegador, y un tutor de IA 24/7 responde tus preguntas mientras trabajas en la lección.
¿Necesito experiencia previa para empezar MLOps Academy?
No se requiere experiencia previa. MLOps Academy en CoddyKit está estructurado para principiantes hasta estudiantes avanzados, así que puedes empezar aquí o desde el inicio y avanzar a tu ritmo. Esta es la lección 1 de 4.
¿Cuánto tiempo toma la lección «Dimensione correctamente las instancias y réplicas»?
La mayoría de las lecciones de CoddyKit toman alrededor de 5–10 minutos. Cada una es compacta e interactiva, así que avanzas constantemente y retomas exactamente por donde dejaste en la web y la app.
¿Puedo escribir y ejecutar código en esta lección de MLOps Academy?
Sí. Cada lección de MLOps Academy incluye un editor de código integrado, así que escribes y ejecutas código real directamente en tu navegador y obtienes retroalimentación instantánea de IA — sin configuración local necesaria.
Todas las lecciones de este curso
- Dimensione correctamente las instancias y réplicas
- Cuantice y destile para abaratar la inferencia
- Use instancias Spot para el entrenamiento
- Realice el seguimiento del coste por predicción