Upstreamservers en load balancing

Naarmate je webapplicatie groeit, is één server misschien niet voldoende om alle binnenkomende aanvragen te verwerken. Dit kan leiden tot trage responstijden of zelfs crashes.

Om dit te voorkomen, gebruiken we meerdere backendservers om de belasting te verdelen. Dit verbetert zowel de prestaties als de betrouwbaarheid.

Nginx kan fungeren als reverse proxy en aanvragen verdelen over een groep backendservers. Deze backendservers worden vaak upstreamservers genoemd.

• Schaalbaarheid: Verwerk meer verkeer door meer servers toe te voegen.
• Hoge beschikbaarheid: Als één server uitvalt, kunnen de andere nog steeds antwoorden.
• Load balancing: Verdeel aanvragen efficiënt over de servers.

In Nginx definieer je een groep backendservers met het blok upstream. Dit blok geeft je servergroep een naam, waarnaar je vervolgens kunt verwijzen in je location-blokken.

Je kunt het zien als een benoemde verzameling resources waarnaar Nginx aanvragen kan doorsturen.

Zo definieer je een eenvoudig upstream-blok met de naam my_backends en twee servers. Elke server-instructie geeft het adres (IP-adres of hostnaam) en de poort van een backendserver op.

Als je eenmaal een upstream-blok hebt gedefinieerd, kun je dit gebruiken binnen een location-blok in je Nginx-serverconfiguratie. De instructie proxy_pass vertelt Nginx dat aanvragen naar de opgegeven upstreamgroep moeten worden doorgestuurd.

Let erop dat we http://my_backends gebruiken om naar onze gedefinieerde groep te verwijzen.

Standaard gebruikt Nginx de load-balancingmethode round-robin. Dit betekent dat aanvragen volgens een roulerende, opeenvolgende volgorde over upstreamservers worden verdeeld.

• Aanvraag 1 gaat naar server A.
• Aanvraag 2 gaat naar server B.
• Aanvraag 3 gaat naar server A.
• ... enzovoort.

Dit is eenvoudig en effectief voor gelijkmatig verdeelde belasting.

Wat doe je als sommige servers krachtiger zijn of meer verkeer moeten verwerken? Je kunt de parameter weight in de server-instructie gebruiken om verschillende prioriteiten toe te wijzen.

Een server met een hogere waarde voor weight ontvangt een evenredig groter deel van de aanvragen.

In dit voorbeeld heeft server 1 een weight van 3 en server 2 een weight van 1. Dit betekent dat server 1 drie keer zoveel aanvragen ontvangt als server 2.

Van elke 4 aanvragen gaan er 3 naar server 1 en 1 naar server 2.

Naast weight kunnen andere instructies het gedrag van servers nauwkeurig afstemmen:

• max_fails=N: Het aantal mislukte pogingen voordat Nginx de server als niet beschikbaar beschouwt.
• fail_timeout=Xs: De periode waarin de server als niet beschikbaar wordt beschouwd na max_fails pogingen.
• backup: Markeert een server als back-upserver, die alleen wordt gebruikt wanneer alle primaire servers niet beschikbaar zijn.
• down: Markeert een server als permanent niet beschikbaar.

Hiermee kan Nginx de serverstatus automatisch beheren.

Je hebt geleerd hoe Nginx upstream-blokken gebruikt om meerdere backendservers te groeperen. Zo wordt load balancing mogelijk en wordt je applicatie veerkrachtiger.

• upstream-blok: Definieert een benoemde servergroep.
• proxy_pass: Verbindt een location met een upstream-groep.
• Round-robin: De standaardmethode van Nginx voor load balancing.
• weight-instructie: Past de verdeling van aanvragen over servers aan.

Vervolgens bekijken we hoe Nginx de prestaties kan verbeteren met proxybuffering en caching!