Loadbalancing en proxies

Stel je voor dat je NestJS-applicatie enorm populair wordt! Eén server kan moeite hebben om duizenden gebruikers tegelijk te verwerken. Dit is waar load balancing en reverse proxies van pas komen.

Het zijn essentiële hulpmiddelen voor het bouwen van schaalbare en zeer beschikbare backendservices, zodat je applicatie kan meegroeien met de vraag.

Load balancing is het verdelen van binnenkomend netwerkverkeer over meerdere servers. Zie het als een verkeersregelaar voor je webaanvragen.

• Het voorkomt dat één server een knelpunt wordt.
• Het verbetert de reactiesnelheid van de applicatie door de werklast te verdelen.
• Het verhoogt de betrouwbaarheid door verkeer weg te sturen van servers die niet goed functioneren.

Wanneer een client een aanvraag doet, komt deze eerst bij de load balancer aan. De load balancer bepaalt vervolgens welke backendserver (bijvoorbeeld een NestJS-instantie) de aanvraag moet verwerken.

Daarbij gebruikt deze verschillende algoritmen en controleert hij voortdurend de gezondheid van elke server, zodat aanvragen alleen naar actieve servers worden gestuurd.

Load balancers gebruiken verschillende strategieën om verkeer te verdelen:

• Round Robin: Verdeelt aanvragen achtereenvolgens over elke server. Eenvoudig en effectief voor servers met dezelfde capaciteit.
• Minste verbindingen: Stuurt nieuwe aanvragen naar de server met de minste actieve verbindingen. Geschikt voor servers die wisselende werklasten verwerken.
• IP-hash: Stuurt aanvragen van hetzelfde IP-adres van de client naar dezelfde server. Handig om 'sticky sessions' te behouden.

Een reverse proxy is een server die vóór webservers staat en aanvragen van clients doorstuurt naar die webservers. Deze fungeert als tussenpersoon voor aanvragen van clients die resources van backendservers nodig hebben.

In tegenstelling tot een forward proxy, die clients beschermt, beschermt en abstraheert een reverse proxy backendservers.

Het gebruik van een reverse proxy zoals Nginx vóór je NestJS-applicatie biedt verschillende voordelen:

• Beveiliging: Verbergt de identiteit van backendservers en kan schadelijke aanvragen filteren.
• SSL-beëindiging: Verwerkt HTTPS-versleuteling en -ontsleuteling, zodat je NestJS-app dit werk niet hoeft te doen.
• Caching: Kan statische content cachen, waardoor de belasting van je applicatieservers afneemt.
• Compressie: Comprimeert antwoorden om bandbreedte te besparen.

Hoewel beide verkeer verdelen en vóór servers staan, verschillen hun belangrijkste doelen:

• De belangrijkste taak van een load balancer is het gelijkmatig verdelen van de belasting over meerdere servers om prestaties en betrouwbaarheid te verbeteren.
• De belangrijkste taak van een reverse proxy is één toegangspunt bieden, de beveiliging verbeteren en functies zoals caching of SSL-beëindiging aanbieden, eventueel voor één backendserver of een groep servers.

Een reverse proxy kan vaak ook load-balancingfuncties uitvoeren, waardoor het onderscheid tussen beide vervaagt.

Nginx is een populaire keuze voor zowel reverse proxying als load balancing. Hier zie je een vereenvoudigd configuratiefragment van Nginx dat aanvragen doorstuurt naar een NestJS-applicatie die op poort 3000 draait:

Deze configuratie luistert op poort 80 en stuurt alle aanvragen door naar je NestJS-server.

Door een load balancer of reverse proxy vóór meerdere NestJS-instanties te plaatsen, maak je horizontale schaalbaarheid mogelijk. Dat betekent dat je meer NestJS-servers kunt toevoegen naarmate je verkeer toeneemt, zonder je applicatiecode te wijzigen.

De proxy of balancer verdeelt de aanvragen, waardoor je applicatie veerkrachtiger en beter presterend wordt.

In deze les hebben we load balancing en reverse proxies verkend. Load balancers verdelen verkeer om knelpunten te voorkomen en de beschikbaarheid te verbeteren, terwijl reverse proxies voordelen bieden zoals beveiliging, SSL-beëindiging en caching.

Samen zijn deze hulpmiddelen essentieel voor het bouwen van robuuste, schaalbare en krachtige NestJS-applicaties die een groeiende gebruikersvraag aankunnen.