Bilanciare il carico tra i server

Il load balancing distribuisce il traffico in ingresso tra più server, così nessun singolo server viene sovraccaricato. Invece di rallentare un unico server molto occupato, più server condividono il lavoro, migliorando prestazioni e affidabilità. Un dispositivo o servizio chiamato load balancer si trova davanti ai server e distribuisce le richieste tra loro, facendo apparire il pool di server come un unico servizio veloce.

Il bilanciamento del carico offre due grandi vantaggi: scalabilità e disponibilità. Aggiungere altri server dietro il bilanciatore aumenta la capacità di gestire la crescita; se un server si guasta, il bilanciatore smette semplicemente di inviargli traffico, così gli utenti continuano a ricevere il servizio. In questo modo, un singolo server fragile diventa un pool resiliente ed espandibile.

Un bilanciatore del carico riceve le richieste dei client attraverso un unico virtual IP (VIP) front-end e inoltra ciascuna richiesta a uno dei server back-end. I client comunicano esclusivamente con il VIP e non sanno quanti server si trovino dietro di esso. Il bilanciatore può essere un'appliance hardware dedicata oppure un software, e spesso viene a sua volta reso ridondante per evitare che diventi un SPOF.

I bilanciatori utilizzano algoritmi per scegliere un server. Round robin alterna i server nell'ordine. Least connections sceglie il server con il minor numero di sessioni attive. I metodi weighted favoriscono i server più potenti. La scelta dell'algoritmo corretto adatta il traffico alla capacità dei server, mantenendo il pool bilanciato ed efficiente.

Un bilanciatore del carico esegue costantemente controlli di integrità, verificando ogni server per accertarsi che risponda. Se un server non supera il controllo, il bilanciatore smette di inviargli richieste finché non torna operativo. È questo che rende il bilanciamento del carico anche uno strumento di alta disponibilità: i server guasti vengono rimossi automaticamente dalla rotazione, così gli utenti non raggiungono mai un server non funzionante.

Alcune applicazioni richiedono che le richieste di un utente continuino a essere inviate allo stesso server, ad esempio per conservare nel server il carrello degli acquisti memorizzato in memoria. La persistenza della sessione (o "sticky sessions") associa un client a un server per tutta la durata della sessione. Senza questa funzione, un utente che passa da un server all'altro potrebbe perdere lo stato durante un'attività.

I bilanciatori operano a livelli diversi. Un bilanciatore di Layer 4 distribuisce il traffico in base all'indirizzo IP e alla porta TCP/UDP: è veloce, ma non conosce il contenuto. Un bilanciatore di Layer 7 legge i dati dell'applicazione, come gli URL HTTP, e consente un instradamento intelligente; ad esempio, può inviare /images a un pool e /api a un altro. Layer 7 è più potente, ma richiede più elaborazione per ogni richiesta.

I bilanciatori del carico eseguono spesso l'offloading SSL/TLS (terminazione): gestiscono la cifratura per conto dei client, decifrando il traffico affinché i server back-end non debbano farlo. In questo modo liberano CPU sui server per l'applicazione e centralizzano la gestione dei certificati sul bilanciatore. È un motivo comune per cui le organizzazioni collocano un bilanciatore Layer 7 avanzato davanti ai server web.

Se tutto il traffico passa attraverso un unico bilanciatore del carico, quel bilanciatore diventa un single point of failure. Per questo i bilanciatori vengono distribuiti in coppie, in modalità active-active o active-passive, con failover tra i due. Lo strumento che garantisce la disponibilità deve essere a sua volta altamente disponibile. Una coppia di bilanciatori ridondanti mantiene resiliente l'intero front end.

I provider cloud offrono il bilanciamento del carico come servizio gestito, che si adatta automaticamente alla domanda. Insieme ai gruppi di server con auto-scaling, il cloud può aggiungere e rimuovere server dietro il bilanciatore in base al carico, per poi distribuire il traffico tra quelli attivi. Questo modello elastico è uno dei motivi principali per cui le applicazioni cloud gestiscono con efficacia traffico elevato e variabile.

Il bilanciamento del carico e la ridondanza lavorano insieme per garantire prestazioni e alta disponibilità. La ridondanza fornisce capacità e componenti di riserva; il bilanciamento del carico utilizza attivamente tale capacità, distribuendo il lavoro e aggirando i guasti in tempo reale. Insieme consentono a un servizio di rimanere veloce sotto carico elevato e operativo quando singoli server si guastano: sono un elemento fondamentale della progettazione resiliente.

Verifichi le Sue conoscenze sul bilanciamento del carico.

Ha appreso il bilanciamento del carico. Punti chiave:

• Distribuisce il traffico tra i server per garantire scalabilità e disponibilità.
• I client raggiungono un virtual IP; il bilanciatore sceglie un server back-end.
• Gli algoritmi includono round robin, least connections e weighted.
• I controlli di integrità rimuovono i server guasti; la persistenza mantiene fisse le sessioni.
• Layer 4 e Layer 7; anche i bilanciatori vengono resi ridondanti.