Implantações blue-green e canário para agentes
Distribua novos prompts e modelos para 5% do tráfego, acompanhe as métricas e aumente gradualmente — nunca faça uma mudança de uma só vez.
Implantações blue-green e canário para agentes é uma aula grátis de AI Agents no CoddyKit. Esta é a aula 4 de 4. Você pode ler a aula completa abaixo gratuitamente — depois pratica ao vivo no navegador com um editor de código integrado e um tutor de IA 24/7. Faz parte do caminho de aprendizado de AI Agents, e seu progresso é sincronizado entre a web e o app CoddyKit. O curso de AI Agents inclui 4 aulas no total.
Partes desta aula ainda não foram traduzidas e aparecem em inglês.
Implantar Agentes é Diferente
As implantações de código tradicional são determinísticas — a aprovação em um teste unitário significa que a alteração é segura. As implantações de agentes LLM são NOT — mesmo com o mesmo código, trocar uma instrução ou modelo pode degradar sutilmente a qualidade.
Use estratégias de implantação projetadas para detectar regressões antecipadamente.
Implantações Azul-Verde
Dois ambientes idênticos:
- Azul — produção atual
- Verde — nova versão
Mude o tráfego de 0% -> 100% em uma única etapa após testar o ambiente verde.
Implantações de Canário
Mova gradualmente o tráfego para a nova versão:
- 5% -> observe as métricas
- 20% -> observe
- 50%
- 100%
Reverta em qualquer etapa se as métricas piorarem.
O que Observar
- Taxa de erros
- Latência p95
- Custo por requisição
- Sinais de retorno dos usuários (proporção de avaliações positivas/negativas)
- Taxa de aprovação da avaliação em um conjunto paralelo de tráfego real
Routing With a Feature Flag
import random
def pick_agent_version(user_id):
if launchdarkly.variation('use-v2', user_id, default=False):
return v2
if random.random() < canary_pct:
return v2
return v1
# Roll canary_pct from 0 to 1.0 gradually.Implantação por Cliente
Implante por cliente em um SaaS B2B — primeiro os usuários internos, depois os clientes receptivos e, por fim, todos:
if user.org_id in EARLY_ACCESS_ORGS:
return v2
return v1Modo de Sombra
Execute a nova versão IN PARALLEL, mas não disponibilize sua saída:
v1_result = run_v1(query)
async def shadow():
v2_result = await run_v2(query)
log_compare(v1_result, v2_result)
asyncio.create_task(shadow())
return v1_resultReproduzir Tráfego de Produção
Capture as consultas de produção em um buffer; reproduza-as todas as noites na nova versão. Compare a qualidade das respostas antes de promovê-la.
Testes A/B
Para experimentos de qualidade de longa duração, divida o tráfego aleatoriamente e compare estatisticamente as métricas ao longo de semanas.
Versionamento de Instruções
Trate as instruções como código — fixe uma versão, distribua lado a lado com o modelo e implante por meio de um sinalizador:
PROMPTS = {
'qa-v3': '...',
'qa-v4': '...'
}
active = 'qa-v4' if feature_flag_on() else 'qa-v3'Fixação da Versão do Modelo
Fixe a versão do modelo (gpt-4o-2024-08-06) para que a atualização dos modelos padrão pelos provedores não altere silenciosamente o comportamento da noite para o dia.
Reversão Automática
Se uma métrica ultrapassar um limite, reverta automaticamente o canário para 0% e gere um alerta:
if p95_latency_now > 1.5 * p95_latency_baseline:
flag.set('canary_pct', 0)
alert('Auto-rollback triggered')Documente Cada Versão
Cada versão deve registrar:
- O que mudou (instrução, modelo, recuperação)
- Resultados da avaliação antes/depois
- Linha do tempo do canário
- Se houve reversão
Por que Usar Canário?
Por que usar implantações de canário para agentes em vez de versões em uma única etapa?
Recapitulação
Direcione o tráfego com um sinalizador, aumente de 5% -> 100%, observe erros / latência / custo / retorno e reverta rapidamente se necessário. Adicione o modo de sombra e a reprodução para aumentar a confiança.
Perguntas Frequentes
A aula “Implantações blue-green e canário para agentes” é grátis?
Sim — o texto completo de “Implantações blue-green e canário para agentes” é grátis para ler aqui na web. Para praticá-la interativamente (um editor de código integrado e um tutor de IA 24/7) e desbloquear o restante do curso de AI Agents, atualize para CoddyKit PRO. O curso de AI Agents inclui 4 aulas no total.
O que vou aprender em “Implantações blue-green e canário para agentes”?
Distribua novos prompts e modelos para 5% do tráfego, acompanhe as métricas e aumente gradualmente — nunca faça uma mudança de uma só vez. Você pratica AI Agents com código prático que executa diretamente no navegador, e um tutor de IA 24/7 responde suas dúvidas enquanto trabalha na aula.
Preciso ter experiência prévia para começar AI Agents?
Nenhuma experiência prévia é necessária. AI Agents no CoddyKit é estruturado para alunos iniciantes até avançados, então você pode começar aqui ou desde o início e aprender no seu ritmo. Esta é a aula 4 de 4.
Quanto tempo leva a aula “Implantações blue-green e canário para agentes”?
A maioria das aulas CoddyKit leva cerca de 5–10 minutos. Cada uma é compacta e interativa, então você faz progresso constante e retoma exatamente de onde parou entre web e app.
Posso escrever e executar código nesta aula de AI Agents?
Sim. Cada aula de AI Agents inclui um editor de código integrado, então você escreve e executa código real direto no navegador e recebe feedback de IA instantaneamente — nenhuma configuração local necessária.
Todas as aulas deste curso
- Disponibilizando agentes por trás de uma API
- Fluxos de trabalho assíncronos e tarefas em segundo plano
- Limitação de taxa e gerenciamento de cotas
- Implantações blue-green e canário para agentes