Despliegues blue-green y canary para agentes
Distribuya los nuevos prompts y modelos al 5 % del tráfico, supervise las métricas y aumente gradualmente; nunca cambie todo de golpe.
Despliegues blue-green y canary para agentes es una lección gratuita de AI Agents en CoddyKit. Esta es la lección 4 de 4. Puedes leer la lección completa abajo gratuitamente — luego la practicas en el navegador con un editor de código integrado y un tutor de IA 24/7. Forma parte de la ruta de aprendizaje de AI Agents, y tu progreso se sincroniza en la web y la app de CoddyKit. El curso de AI Agents incluye 4 lecciones en total.
Partes de esta lección aún no han sido traducidas y se muestran en inglés.
Desplegar agentes es diferente
Los despliegues de código tradicional son deterministas: que una prueba unitaria pase significa que el cambio es seguro. Los despliegues de agentes LLM NO lo son: incluso con el mismo código, cambiar un prompt o un modelo puede degradar sutilmente la calidad.
Utilice estrategias de despliegue diseñadas para detectar regresiones pronto.
Despliegues blue-green
Dos entornos idénticos:
- Blue — producción actual
- Green — versión nueva
Cambie el tráfico del 0 % -> 100 % en un solo paso después de probar green.
Despliegues canary
Desplace gradualmente el tráfico a la nueva versión:
- 5 % -> observe las métricas
- 20 % -> observe
- 50 %
- 100 %
Revierta en cualquier paso si las métricas empeoran.
Qué debe observar
- Tasa de errores
- Latencia p95
- Coste por solicitud
- Señales de comentarios de los usuarios (proporción de votos positivos/negativos)
- Tasa de aprobación de las evaluaciones en un conjunto shadow de tráfico real
Routing With a Feature Flag
import random
def pick_agent_version(user_id):
if launchdarkly.variation('use-v2', user_id, default=False):
return v2
if random.random() < canary_pct:
return v2
return v1
# Roll canary_pct from 0 to 1.0 gradually.Despliegue por tenant
Despliegue por tenant en SaaS B2B: primero los usuarios internos, después los clientes de confianza y, por último, todo el mundo:
if user.org_id in EARLY_ACCESS_ORGS:
return v2
return v1Modo shadow
Ejecute la nueva versión EN PARALELO, pero no sirva su salida:
v1_result = run_v1(query)
async def shadow():
v2_result = await run_v2(query)
log_compare(v1_result, v2_result)
asyncio.create_task(shadow())
return v1_resultReproducir el tráfico de producción
Capture las consultas de producción en un búfer; reprodúzcalas cada noche en la nueva versión. Compare la calidad de las respuestas antes de promocionarla.
Pruebas A/B
Para experimentos de calidad de larga duración, divida el tráfico aleatoriamente y compare estadísticamente las métricas durante varias semanas.
Versionado de prompts
Trate los prompts como código: fije una versión, impleméntela junto al modelo y distribúyala mediante un feature flag:
PROMPTS = {
'qa-v3': '...',
'qa-v4': '...'
}
active = 'qa-v4' if feature_flag_on() else 'qa-v3'Fijación de modelos
Fije la versión del modelo (gpt-4o-2024-08-06) para que las actualizaciones de los modelos predeterminados de los proveedores no cambien su comportamiento silenciosamente de un día para otro.
Reversión automática
Si una métrica supera un umbral, reduzca automáticamente el canary al 0 % y genere una alerta:
if p95_latency_now > 1.5 * p95_latency_baseline:
flag.set('canary_pct', 0)
alert('Auto-rollback triggered')Documente cada versión
Las notas de cada versión deben incluir:
- Qué cambió (prompt, modelo, recuperación)
- Resultados de las evaluaciones antes y después
- Línea temporal del canary
- Si se revirtió
¿Por qué canary?
¿Por qué utilizar despliegues canary para agentes en lugar de versiones de un solo paso?
Resumen
Enrute el tráfico mediante un feature flag, aumente gradualmente del 5 % -> 100 %, observe los errores, la latencia, los costes y los comentarios, y revierta rápidamente si es necesario. Añada el modo shadow y la reproducción para aumentar la confianza.
Preguntas frecuentes
¿La lección «Despliegues blue-green y canary para agentes» es gratis?
Sí — el texto completo de «Despliegues blue-green y canary para agentes» es gratis para leer aquí en la web. Para practicarla de forma interactiva (editor de código integrado y tutor de IA 24/7) y desbloquear el resto del curso de AI Agents, actualiza a CoddyKit PRO. El curso de AI Agents incluye 4 lecciones en total.
¿Qué aprenderé en «Despliegues blue-green y canary para agentes»?
Distribuya los nuevos prompts y modelos al 5 % del tráfico, supervise las métricas y aumente gradualmente; nunca cambie todo de golpe. Practicas AI Agents con código real que ejecutas directamente en el navegador, y un tutor de IA 24/7 responde tus preguntas mientras trabajas en la lección.
¿Necesito experiencia previa para empezar AI Agents?
No se requiere experiencia previa. AI Agents en CoddyKit está estructurado para principiantes hasta estudiantes avanzados, así que puedes empezar aquí o desde el inicio y avanzar a tu ritmo. Esta es la lección 4 de 4.
¿Cuánto tiempo toma la lección «Despliegues blue-green y canary para agentes»?
La mayoría de las lecciones de CoddyKit toman alrededor de 5–10 minutos. Cada una es compacta e interactiva, así que avanzas constantemente y retomas exactamente por donde dejaste en la web y la app.
¿Puedo escribir y ejecutar código en esta lección de AI Agents?
Sí. Cada lección de AI Agents incluye un editor de código integrado, así que escribes y ejecutas código real directamente en tu navegador y obtienes retroalimentación instantánea de IA — sin configuración local necesaria.
Todas las lecciones de este curso
- Servir agentes detrás de una API
- Flujos de trabajo asíncronos y trabajos en segundo plano
- Limitación de velocidad y gestión de cuotas
- Despliegues blue-green y canary para agentes