SaaS Architecture & Startup Engineering · Leçon

Équilibrage de charge et découverte de services

Comprenez comment les services SaaS répartissent le trafic entre de nombreuses instances à l’aide d’équilibreurs de charge, de vérifications d’état et de la découverte de services.

Leçon 4 sur 413 étapes

Équilibrage de charge et découverte de services est une leçon SaaS Architecture & Startup Engineering gratuite sur CoddyKit. Ceci est la leçon 4 sur 4. Tu peux lire la leçon complète ci-dessous gratuitement — puis la pratiquer en direct dans le navigateur avec un éditeur de code intégré et un tuteur IA 24/7. Elle fait partie du parcours d'apprentissage SaaS Architecture & Startup Engineering, et ta progression se synchronise sur le web et l'application CoddyKit. Le cours SaaS Architecture & Startup Engineering comprend 4 leçons au total.

Certaines parties de cette leçon n'ont pas encore été traduites et s'affichent en anglais.

The Need for Load Balancing

When one server cannot handle all traffic, you run many copies. A load balancer sits in front and spreads incoming requests across these instances.

This is the backbone of horizontal scaling for SaaS backends.

How a Load Balancer Works

Clients connect to a single address. The load balancer accepts the request and forwards it to one of the backend servers, then relays the response back.

To the client, the cluster looks like one powerful server.

Round Robin

The simplest algorithm is round robin: requests are handed to servers in rotation. Each server gets an equal share.

const servers = ['s1', 's2', 's3'];
let i = 0;
function next() {
  const s = servers[i % servers.length];
  i++;
  return s;
}
console.log(next(), next(), next(), next());

Least Connections

Least connections routes each new request to the server currently handling the fewest active connections.

This adapts better than round robin when requests have uneven durations.

Layer 4 vs Layer 7

Load balancers operate at different network layers:

  • Layer 4 (transport) — routes by IP and port, very fast
  • Layer 7 (application) — inspects HTTP, can route by URL path or headers

Layer 7 enables smart routing like sending /api to one pool and /static to another.

Health Checks

A load balancer must avoid sending traffic to dead servers. It runs periodic health checks against each instance.

A common pattern is a /health endpoint returning 200 OK when the app is ready.

app.get('/health', (req, res) => {
  res.status(200).json({ status: 'ok' });
});

Sticky Sessions

Some apps store session state in server memory. Sticky sessions pin a client to the same server so their session persists.

Better practice: keep servers stateless and store sessions in a shared store, so any server can handle any request.

Service Discovery

In dynamic environments, servers come and go constantly. Service discovery keeps an up-to-date registry of which instances exist and are healthy.

Tools like Consul, etcd, or Kubernetes services automate this.

Client-Side vs Server-Side Discovery

Two models:

  • Server-side — clients hit a load balancer that consults the registry
  • Client-side — clients query the registry directly and pick an instance themselves

Server-side is simpler; client-side reduces a network hop.

Autoscaling Integration

Load balancers pair with autoscaling: when traffic rises, new instances spin up, register with discovery, and the balancer starts routing to them automatically.

When traffic drops, instances are removed gracefully after draining connections.

Graceful Draining

Before shutting down an instance, the balancer should stop sending new requests but let existing ones finish. This is connection draining.

It prevents dropped requests during deployments and scale-down events.

Quick Check

Test your load balancing knowledge.

Recap

You learned how SaaS backends distribute traffic:

  • Load balancers with round robin and least connections
  • Layer 4 vs Layer 7 routing and health checks
  • Stateless design, service discovery, and graceful draining

Together these let a backend scale horizontally and survive failures.

Gratuit pour commencer

Apprends SaaS Architecture & Startup Engineering avec un tuteur IA — gratuit

Écris et exécute du vrai code dans ton navigateur, obtiens de l'aide instantanée d'un tuteur IA disponible 24h/24, et reprends là où tu t'es arrêté sur le web ou dans l'app.

Cours
12
Leçons
48

Questions Fréquemment Posées

La leçon « Équilibrage de charge et découverte de services » est-elle gratuite ?

Oui — le texte complet de « Équilibrage de charge et découverte de services » est gratuit à lire ici sur le web. Pour la pratiquer de manière interactive (un éditeur de code intégré et un tuteur IA 24/7) et déverrouiller le reste du cours SaaS Architecture & Startup Engineering, passe à CoddyKit PRO. Le cours SaaS Architecture & Startup Engineering comprend 4 leçons au total.

Qu'est-ce que j'apprendrai dans « Équilibrage de charge et découverte de services » ?

Comprenez comment les services SaaS répartissent le trafic entre de nombreuses instances à l’aide d’équilibreurs de charge, de vérifications d’état et de la découverte de services. Tu pratiques SaaS Architecture & Startup Engineering avec du code pratique que tu exécutes directement dans le navigateur, et un tuteur IA 24/7 répond à tes questions au fur et à mesure que tu avances dans la leçon.

Dois-je avoir de l'expérience pour commencer SaaS Architecture & Startup Engineering ?

Aucune expérience préalable n'est requise. SaaS Architecture & Startup Engineering sur CoddyKit est structuré pour les débutants jusqu'aux apprenants avancés, donc tu peux commencer ici ou depuis le début et avancer à ton rythme. Ceci est la leçon 4 sur 4.

Combien de temps prend la leçon « Équilibrage de charge et découverte de services » ?

La plupart des leçons CoddyKit prennent environ 5–10 minutes. Chacune est courte et interactive, tu progresses régulièrement et tu repiques exactement où tu t'es arrêté sur le web et l'app.

Peux-tu écrire et exécuter du code dans cette leçon SaaS Architecture & Startup Engineering ?

Oui. Chaque leçon SaaS Architecture & Startup Engineering inclut un éditeur de code intégré, tu écris et exécutes du vrai code directement dans ton navigateur et tu reçois des retours IA instantanés — aucune configuration locale requise.

Toutes les leçons de ce cours

  1. Techniques de mise à l’échelle horizontale
  2. Files de messages et architecture événementielle
  3. Principes de l’architecture sans serveur
  4. Équilibrage de charge et découverte de services
← Retour à SaaS Architecture & Startup Engineering