En qué se diferencia LLMOps de MLOps clásico
Los prompts, el contexto y el no determinismo cambian las reglas del juego.
En qué se diferencia LLMOps de MLOps clásico es una lección gratuita de MLOps Academy en CoddyKit. Esta es la lección 1 de 4. Puedes leer la lección completa abajo gratuitamente — luego la practicas en el navegador con un editor de código integrado y un tutor de IA 24/7. Forma parte de la ruta de aprendizaje de MLOps Academy, y tu progreso se sincroniza en la web y la app de CoddyKit. El curso de MLOps Academy incluye 4 lecciones en total.
Un nuevo enfoque de MLOps
Ya conoce MLOps. LLMOps es la misma disciplina aplicada a los modelos de lenguaje de gran tamaño, donde los prompts y el contexto importan tanto como los pesos. 🤖
A menudo no entrena
En el ML clásico se entrena un modelo. En LLMOps normalmente se llama a un modelo preentrenado mediante una API, por lo que el trabajo real pasa a centrarse en el prompting y la orquestación.
El prompt es el programa
El mismo modelo puede dar respuestas muy diferentes según la redacción. Aquí el prompt se convierte en un artefacto de primer nivel al que aplica control de versiones, pruebas y revisiones, igual que al código.
prompt = "Summarize this support ticket in one sentence:\n\n{ticket}"
response = client.responses.create(model="gpt-4o", input=prompt)Las salidas no son deterministas
Envíe el mismo prompt dos veces y puede obtener textos diferentes. Este no determinismo significa que no puede comprobar una igualdad exacta como se hace en las pruebas clásicas.
La temperatura controla la aleatoriedad
Ajuste la temperatura para equilibrar creatividad y coherencia. Los valores más bajos producen salidas más estables, lo que facilita mucho la evaluación y la depuración.
response = client.responses.create(
model="gpt-4o", input=prompt, temperature=0.0)El contexto es su nueva funcionalidad
Los modelos clásicos leen características tabulares. Las aplicaciones con LLM incorporan documentos e historial en la ventana de contexto, por lo que la ingeniería de contexto sustituye a la ingeniería de características.
La evaluación se vuelve imprecisa
No puede calcular simplemente la precisión sobre texto libre. LLMOps se apoya en la puntuación mediante rúbricas, respuestas de referencia u otro modelo que actúe como juez.
Los tokens equivalen a dinero
Cada solicitud se factura según los tokens de entrada y salida. Vigilar el uso de tokens se convierte en una métrica operativa fundamental, porque el costo aumenta directamente con el tráfico.
usage = response.usage
print(usage.input_tokens, usage.output_tokens)La latencia está en el modelo
La generación es lenta y varía según la longitud de la salida. La latencia depende de cuántos tokens emite el modelo, por lo que transmitir las respuestas por streaming mantiene satisfechos a los usuarios.
La seguridad pasa al primer plano
Los LLM pueden alucinar o filtrar datos. LLMOps añade guardrails a las entradas y salidas como una capa estándar, no como algo secundario.
El mismo ciclo, nuevas herramientas
La implementación, la supervisión y la mejora siguen siendo aplicables. Lo que cambia son las herramientas: los registros de prompts, el tracing, las evaluaciones y los guardrails se incorporan a su stack habitual de MLOps.
Comprobación rápida
Envía un prompt dos veces y obtiene dos respuestas diferentes. ¿Qué propiedad es esa?
Resumen
Vio cómo LLMOps desplaza el foco del entrenamiento a los prompts, el contexto, las salidas no deterministas, los tokens y la seguridad. El mismo ciclo de vida, con nuevas herramientas. ¡Es un gran comienzo! 🎉
Aprende Python con un tutor de IA — gratis
Escribe y ejecuta código real en tu navegador, obtén ayuda instantánea de un tutor de IA disponible 24/7 y continúa donde lo dejaste en la web o en la aplicación.
- Cursos
- 30
- Lecciones
- 120
Preguntas frecuentes
¿La lección «En qué se diferencia LLMOps de MLOps clásico» es gratis?
Sí — el texto completo de «En qué se diferencia LLMOps de MLOps clásico» es gratis para leer aquí en la web. Para practicarla de forma interactiva (editor de código integrado y tutor de IA 24/7) y desbloquear el resto del curso de MLOps Academy, actualiza a CoddyKit PRO. El curso de MLOps Academy incluye 4 lecciones en total.
¿Qué aprenderé en «En qué se diferencia LLMOps de MLOps clásico»?
Los prompts, el contexto y el no determinismo cambian las reglas del juego. Practicas MLOps Academy con código real que ejecutas directamente en el navegador, y un tutor de IA 24/7 responde tus preguntas mientras trabajas en la lección.
¿Necesito experiencia previa para empezar MLOps Academy?
No se requiere experiencia previa. MLOps Academy en CoddyKit está estructurado para principiantes hasta estudiantes avanzados, así que puedes empezar aquí o desde el inicio y avanzar a tu ritmo. Esta es la lección 1 de 4.
¿Cuánto tiempo toma la lección «En qué se diferencia LLMOps de MLOps clásico»?
La mayoría de las lecciones de CoddyKit toman alrededor de 5–10 minutos. Cada una es compacta e interactiva, así que avanzas constantemente y retomas exactamente por donde dejaste en la web y la app.
¿Puedo escribir y ejecutar código en esta lección de MLOps Academy?
Sí. Cada lección de MLOps Academy incluye un editor de código integrado, así que escribes y ejecutas código real directamente en tu navegador y obtienes retroalimentación instantánea de IA — sin configuración local necesaria.
Todas las lecciones de este curso
- En qué se diferencia LLMOps de MLOps clásico
- Versione prompts y evalúe salidas
- Trace y supervise llamadas a LLM
- Guardrails y evaluación de RAG