Load balancing over servers

Een load balancer ontvangt aanvragen van clients op één virtueel IP-adres (VIP) aan de voorkant en stuurt elke aanvraag door naar een van de servers aan de achterkant. Clients communiceren alleen met het VIP en weten niet hoeveel servers erachter staan. De load balancer kan een speciaal hardwareapparaat of software zijn. Vaak wordt ook de load balancer zelf redundant uitgevoerd om te voorkomen dat deze een SPOF wordt.

Load balancers gebruiken algoritmen om een server te kiezen. Round robin loopt servers in volgorde af. Minste aantal verbindingen kiest de server met de minste actieve sessies. Gewogen methoden geven de voorkeur aan krachtigere servers. Met het juiste algoritme stem je het verkeer af op de servercapaciteit, zodat de servergroep gelijkmatig en efficiënt wordt belast.

Een load balancer voert voortdurend statuscontroles uit en controleert elke server om te bevestigen dat deze reageert. Als een server de controle niet doorstaat, stopt de load balancer met het sturen van aanvragen naar die server totdat deze is hersteld. Hierdoor is load balancing ook een hulpmiddel voor hoge beschikbaarheid: uitgevallen servers worden automatisch uit de verdeling gehaald, zodat gebruikers nooit bij een defecte server terechtkomen.

Sommige toepassingen moeten de aanvragen van een gebruiker naar dezelfde server blijven sturen, bijvoorbeeld om een winkelwagen te behouden die in het geheugen van die server staat. Sessiepersistentie (of 'sticky sessions') koppelt een client gedurende diens sessie aan één server. Zonder deze persistentie kan een gebruiker die tussen servers heen en weer wordt gestuurd de status halverwege een taak verliezen.

Load balancers werken op verschillende lagen. Een load balancer op laag 4 verdeelt verkeer op basis van het IP-adres en de TCP/UDP-poort. Deze is snel, maar heeft geen inzicht in de inhoud. Een load balancer op laag 7 leest toepassingsgegevens zoals HTTP-URL's, waardoor slimme routering mogelijk wordt, bijvoorbeeld door /images naar de ene servergroep en /api naar een andere te sturen. Laag 7 is krachtiger, maar verwerkt meer per aanvraag.

Load balancers voeren vaak SSL/TLS-offloading (beëindiging) uit: ze verzorgen de versleuteling voor clients en ontsleutelen het verkeer, zodat de servers aan de achterkant dit niet hoeven te doen. Hierdoor blijft er CPU-capaciteit op de servers beschikbaar voor de toepassing en wordt het certificaatbeheer gecentraliseerd op de load balancer. Dit is een veelvoorkomende reden om een slimme load balancer op laag 7 vóór webservers te plaatsen.

Als al het verkeer via één load balancer loopt, wordt die load balancer een enkel storingspunt. Daarom worden load balancers in paren ingezet, actief-actief of actief-passief, met failover tussen beide. Het hulpmiddel dat voor beschikbaarheid zorgt, moet zelf ook zeer beschikbaar zijn. Een redundant paar load balancers houdt de volledige voorkant veerkrachtig.

Cloudproviders bieden load balancing als een beheerde dienst die automatisch met de vraag meegroeit. In combinatie met automatisch schalende servergroepen kan de cloud servers achter de load balancer toevoegen en verwijderen op basis van de belasting. Vervolgens wordt het verkeer verdeeld over alle servers die op dat moment actief zijn. Dit elastische model is een belangrijke reden waarom cloudtoepassingen grote, wisselende hoeveelheden verkeer probleemloos aankunnen.

Load balancing en redundantie werken samen voor prestaties en hoge beschikbaarheid. Redundantie biedt reservecapaciteit en reserveonderdelen; load balancing gebruikt die capaciteit actief door het werk te verdelen en verkeer in real time om storingen heen te leiden. Samen zorgen ze ervoor dat een dienst snel blijft bij hoge belasting en beschikbaar blijft wanneer afzonderlijke servers uitvallen. Dat is een hoeksteen van veerkrachtig ontwerp.

Je hebt load balancing geleerd. Belangrijkste punten:

• Het verdeelt verkeer over servers voor schaalbaarheid en beschikbaarheid.
• Clients bereiken een virtueel IP-adres; de load balancer kiest een server aan de achterkant.
• Algoritmen zijn onder andere round robin, het minste aantal verbindingen en gewogen verdeling.
• Statuscontroles verwijderen uitgevallen servers; persistentie houdt sessies aan één server gekoppeld.
• Laag 4 versus laag 7; load balancers worden zelf redundant uitgevoerd.