Kuormantasaus ja korkea käytettävyys

Nykyaikaisten reaaliaikaisten sovellusten, kuten chattien ja reaaliaikaisten koontinäyttöjen, on pystyttävä käsittelemään monia käyttäjiä hidastumatta tai kaatumatta. Tässä oppitunnissa käsitellään kahta keskeistä käsitettä tämän saavuttamiseksi: kuormantasaus ja korkea käytettävyys.

Näiden strategioiden avulla WebSocket-sovellukset voivat kasvaa kysynnän mukana ja pysyä käytettävissä, vaikka osa järjestelmästä vikaantuisi.

Kuormantasaus tarkoittaa saapuvan verkkoliikenteen tehokasta jakamista useille palvelimille. Kuvitelkaa vilkas ravintola, jossa on paljon kokkeja – kuormantasaaja toimii kuten hovimestari ja ohjaa uudet asiakkaat vähiten kuormitetulle kokille.

• Estää yksittäistä palvelinta muodostumasta pullonkaulaksi.
• Parantaa sovelluksen reagointikykyä ja suorituskykyä.
• Mahdollistaa horisontaalisen skaalauksen lisäämällä palvelimia.

WebSocket-yhteydet ylläpitävät pysyvää yhteyttä lyhytkestoisten HTTP-pyyntöjen sijaan. Tämä vaatii kuormantasaajilta erityistä huomiota. Keskeinen käsite on istuntoaffiniteetti (tai "sticky sessions").

Istuntoaffiniteetti varmistaa, että kun asiakas on muodostanut WebSocket-yhteyden tiettyyn palvelininstanssiin, kaikki kyseisen yhteyden myöhemmät viestit reititetään samaan palvelimeen. Tämä on välttämätöntä tilallisille sovelluksille.

Nginx on suosittu valinta WebSocket-yhteyksien käänteisvälitykseen ja kuormantasaukseen. Tässä on yksinkertaistettu määritysesimerkki. Huomioikaa Upgrade- ja Connection-otsakkeet, jotka ovat ratkaisevan tärkeitä WebSocket-kättelyssä.

http {
  upstream websocket_servers {
    server backend1.example.com;
    server backend2.example.com;
  }

  server {
    listen 80;
    server_name your_domain.com;

    location /ws {
      proxy_pass http://websocket_servers;
      proxy_http_version 1.1;
      proxy_set_header Upgrade $http_upgrade;
      proxy_set_header Connection "upgrade";
      proxy_read_timeout 86400s;
    }
  }
}

Tämä määritys reitittää WebSocket-liikenteen (/ws) jollekin Spring-sovellusta suorittavista taustapalvelimista.

Korkea käytettävyys (HA) tarkoittaa sellaisten järjestelmien suunnittelua ja toteuttamista, jotka toimivat jatkuvasti ilman vikoja pitkiä aikoja. Reaaliaikaisissa sovelluksissa käyttökatko tarkoittaa, että käyttäjät menettävät yhteytensä ja reaaliaikaiset päivitykset.

HA:n tavoitteena on minimoida käyttökatkot, joita mitataan usein "ysseinä" (esimerkiksi 99,9 %:n käytettävyys). Tämä saavutetaan redundanssilla ja nopealla palautumisella vikatilanteista.

Perustavanlaatuisin HA-strategia on redundanssi. Sen sijaan että WebSocket-palvelimesta suoritettaisiin vain yksi instanssi, suoritetaan useita identtisiä instansseja. Jos yksi instanssi vikaantuu, muut voivat ottaa sen tehtävät.

Tämä toimii yhdessä kuormantasauksen kanssa. Kuormantasaaja voi havaita vialliset instanssit ja lopettaa liikenteen lähettämisen niille sekä ohjata liikenteen sen sijaan toimintakuntoisille instansseille.

Vikasieto tarkoittaa prosessia, jossa ensisijaisen järjestelmän vikaantuessa tai epänormaalisti lopettaessa toimintansa siirrytään automaattisesti redundanttiin tai valmiusjärjestelmään. WebSocket-yhteyksien tapauksessa tämä tarkoittaa asiakasyhteyksien uudelleenohjausta.

• Active-Passive: Yksi palvelin on aktiivinen ja muut ovat valmiustilassa.
• Active-Active: Kaikki palvelimet ovat aktiivisia ja jakavat kuorman.

Modernit pilviympäristöt ja kuormantasaajat hallitsevat vikasiedon usein automaattisesti terveystarkistusten perusteella.

Terveystarkistukset ovat kuormantasaajien tai valvontajärjestelmien suorittamia automaattisia testejä, joilla selvitetään, toimiiko palvelininstanssi oikein. Jos instanssi ei läpäise terveystarkistusta, se merkitään epäterveeksi ja poistetaan käytettävissä olevien palvelinten joukosta.

Spring WebSocket -sovelluksia varten voitte julkaista yksinkertaisen HTTP-päätepisteen (esimerkiksi /actuator/health), jonka kuormantasaaja voi tarkistaa säännöllisesti.

Pilvipalveluntarjoajat tarjoavat hallittuja kuormantasaus- ja HA-palveluja, jotka yksinkertaistavat käyttöönottoa. Esimerkkejä ovat AWS Elastic Load Balancer (ELB) ja Google Cloud Load Balancing.

• Ne hoitavat terveystarkistukset ja vikasiedon automaattisesti.
• Ne skaalautuvat joustavasti liikenteen tarpeiden mukaan.
• Ne integroituvat usein muihin pilvipalveluihin, kuten automaattisesti skaalautuviin ryhmiin.

Nämä palvelut sopivat ihanteellisesti skaalautuvien ja erittäin käytettävien Spring WebSocket -sovellusten käyttöönottoon.

Olette oppineet, miten kuormantasaus jakaa liikenteen useille palvelininstansseille suorituskyvyn parantamiseksi ja skaalauksen mahdollistamiseksi. Tutustuimme myös korkean käytettävyyden strategioihin, kuten redundanssiin, vikasietoon ja terveystarkistuksiin, joilla varmistetaan reaaliaikaisten sovellusten jatkuva palvelu.

Yhdistämällä nämä tekniikat voitte rakentaa vankkoja ja skaalautuvia Spring WebSocket -palveluja tuotantoympäristöihin.