Scalare orizzontalmente con le sessioni
Esegua molte istanze dietro un load balancer.
Scalare orizzontalmente con le sessioni è una lezione MCP Academy gratuita su CoddyKit. Questa è la lezione 4 di 4. Puoi leggere la lezione completa qui gratuitamente — poi esercitati direttamente nel browser con un editor di codice integrato e un tutor IA disponibile 24/7. Fa parte del percorso di apprendimento MCP Academy, e i tuoi progressi si sincronizzano tra il web e l'app CoddyKit. Il corso MCP Academy include 4 lezioni in totale.
Un solo contenitore ha dei limiti
Un singolo processo server può fare solo fino a un certo punto. Per gestire molto più traffico, si eseguono molte istanze affiancate. 📈
Scalare orizzontalmente, non solo verticalmente
Aggiungere altre copie del server significa scalare orizzontalmente. Spesso è più economico e sicuro che acquistare una macchina sempre più potente.
Un bilanciatore di carico in prima linea
Un bilanciatore di carico si trova davanti alle istanze e distribuisce le richieste in arrivo, così nessuna copia viene sovraccaricata.
HTTP rende possibile tutto questo
La scalabilità orizzontale richiede un trasporto di rete, quindi i server MCP funzionano tramite Streamable HTTP invece del trasporto stdio, utilizzabile solo localmente.
Le sessioni tengono traccia di ogni client
MCP conserva lo stato specifico di ogni client in una sessione, identificata da un ID di sessione che il client invia in ogni richiesta successiva.
Mcp-Session-Id: 1f5c...e9Il problema dell'affinità
Se una sessione risiede solo nella memoria di un'istanza, una richiesta instradata altrove perde il relativo stato. Questa discrepanza è il problema dell'affinità.
Opzione A: instradamento con affinità
Una soluzione consiste nelle sessioni persistenti: il bilanciatore di carico invia sempre un determinato ID di sessione alla stessa istanza che lo ha creato.
Opzione B: archivio condiviso delle sessioni
Per scalare meglio, si può usare un archivio condiviso come Redis. Qualsiasi istanza può caricare una sessione, quindi le richieste vengono instradate liberamente e resistono ai riavvii.
Puntare su istanze senza stato
Mantenga le istanze senza stato, evitando di conservare dati critici solo nella memoria locale. Potrà così aggiungerle, rimuoverle o sostituirle in qualsiasi momento.
I controlli di salute guidano l'instradamento
Il bilanciatore interroga l'endpoint di salute di ogni istanza e smette di inviare traffico a qualsiasi copia che non risponde, mantenendo gli utenti su quelle funzionanti.
Scalare automaticamente in base alla domanda
Con istanze senza stato, può usare l'autoscaling: aggiungere copie quando il carico aumenta e rimuoverle quando diminuisce, pagando solo ciò che utilizza.
Controllo rapido
Che cosa consente di instradare qualsiasi richiesta verso qualsiasi istanza?
Riepilogo: scalare orizzontalmente
Ha eseguito molte istanze dietro un bilanciatore di carico, condiviso le sessioni in un archivio centrale e mantenuto le copie senza stato per scalare automaticamente in base alla domanda. 🚀
Domande Frequenti
La lezione «Scalare orizzontalmente con le sessioni» è gratuita?
Sì — il testo completo di «Scalare orizzontalmente con le sessioni» è gratuito qui sul web. Per esercitarvi in modo interattivo (un editor di codice integrato e un tutor IA 24/7) e sbloccare il resto del corso MCP Academy, passa a CoddyKit PRO. Il corso MCP Academy include 4 lezioni in totale.
Cosa imparerò in «Scalare orizzontalmente con le sessioni»?
Esegua molte istanze dietro un load balancer. Eserciti MCP Academy con codice pratico che esegui direttamente nel browser, e un tutor IA 24/7 risponde alle tue domande mentre lavori sulla lezione.
Ho bisogno di esperienza per iniziare MCP Academy?
Non è richiesta alcuna esperienza precedente. MCP Academy su CoddyKit è strutturato per principianti e studenti avanzati, quindi puoi iniziare da qui o dall'inizio e procedere al tuo ritmo. Questa è la lezione 4 di 4.
Quanto tempo richiede la lezione «Scalare orizzontalmente con le sessioni»?
La maggior parte delle lezioni CoddyKit richiede circa 5–10 minuti. Ogni lezione è breve e interattiva, quindi fai progressi costanti e riprendi esattamente da dove hai lasciato su web e app.
Posso scrivere ed eseguire codice in questa lezione MCP Academy?
Sì. Ogni lezione MCP Academy include un editor di codice integrato, quindi scrivi ed esegui codice reale direttamente nel tuo browser e ricevi feedback istantaneo dall'IA — nessuna configurazione locale necessaria.
Tutte le lezioni di questo corso
- Strumenti asincroni che non bloccano
- Concorrenza e backpressure
- Ridurre i risultati ricchi di token
- Scalare orizzontalmente con le sessioni