Kuormantasaus ja automaattinen skaalaus

Kuvitelkaa, että sovelluksestanne tulee erittäin suosittu! Jos liian monet käyttäjät yrittävät käyttää yhtä palvelinta, sen toiminta voi hidastua tai palvelin voi jopa kaatua.

Kuormantasaus toimii sovelluksen liikenteenohjaajana. Se jakaa saapuvan verkkoliikenteen useille palvelimille ja varmistaa, ettei mikään yksittäinen palvelin kuormitu liikaa.

Kun käyttäjä lähettää pyynnön, se saapuu ensin kuormantasaajalle. Kuormantasaaja päättää sitten, minkä käytettävissä olevan palvelimen tulee käsitellä pyyntö.

• Se toimii yhtenä yhteyspisteenä.
• Se tarkistaa palvelinten kunnon ja lähettää liikennettä vain toimiville palvelimille.
• Se käyttää erilaisia algoritmeja, kuten round-robin-menetelmää, pyyntöjen tasaiseen jakamiseen.

Kuormantasaajat toimivat verkkoviitemallin eri kerroksissa:

• Kerros 4 (siirtokerros): Jakaa liikennettä IP-osoitteiden ja porttien perusteella, kuten TCP:n ja UDP:n. Se on nopea ja yksinkertainen.
• Kerros 7 (sovelluskerros): Jakaa liikennettä sovellustason tietojen, kuten HTTP-otsakkeiden, URL-osoitteiden tai jopa evästetietojen perusteella. Tämä mahdollistaa älykkäämmät reitityspäätökset.

Kuormantasaajan käyttäminen tuo SaaS-sovelluksellenne useita keskeisiä etuja:

• Parempi suorituskyky: Kuorma jakautuu ja pullonkaulat estetään.
• Korkea käytettävyys: Jos yksi palvelin vikaantuu, liikenne ohjataan terveille palvelimille.
• Skaalautuvuus: Voitte helposti lisätä tai poistaa palvelimia vaikuttamatta käyttäjiin.
• Vikasietoisuus: Yksittäisten palvelinten vikaantumisten vaikutus pienenee.

Mitä jos sovelluksellanne on ruuhka-aikoja ja hiljaisia aikoja? Palvelinten manuaalinen lisääminen ja poistaminen on tehotonta.

Automaattinen skaalaus säätää sovelluksen laskentaresurssien, kuten palvelinten, määrää automaattisesti kysynnän perusteella. Se varmistaa riittävän kapasiteetin ilman turhia kustannuksia.

Automaattinen skaalaus valvoo jatkuvasti sovelluksen mittareita. Kun mittari ylittää määritetyn kynnysarvon, se käynnistää toiminnon:

• Jos suorittimen käyttö on liian suurta, lisätään palvelimia.
• Jos verkkoliikenne vähenee, tarpeettomia palvelimia poistetaan.

Tämä dynaaminen säätö optimoi suorituskyvyn ja kustannukset.

Pilviympäristöissä automaattista skaalausta hallitaan usein Auto-Scaling Groups (ASG) -ryhmien avulla. ASG määrittää:

• aina käynnissä olevien instanssien eli palvelinten vähimmäismäärän
• enimmäismäärän instansseja, johon ryhmä voi skaalautua ulospäin
• tavoitekapasiteetin eli instanssien alkuperäisen määrän

ASG:t pyrkivät ylläpitämään tavoitekapasiteettia ja reagoivat skaalauskäytäntöihin.

Automaattisen skaalauksen käytännöt määrittävät, kuinka ASG skaalautuu. Yleisiä käynnistimiä ovat:

• Suorittimen käyttöaste: Skaalataan ulospäin, jos suorittimen keskimääräinen käyttöaste ylittää 70 %.
• Verkon I/O: Skaalataan sisäänpäin, jos lähtevän verkkoliikenteen määrä on pieni.
• Mukautetut mittarit: Perustuvat sovelluskohtaisiin mittareihin, kuten jonon pituuteen tai aktiivisten käyttäjien määrään.

Käytännöt voivat olla yksinkertaisia, kuten N instanssin lisääminen, tai tavoitetta seuraavia, kuten suorittimen keskimääräisen käyttöasteen pitäminen 60 prosentissa.

Nämä kaksi teknologiaa muodostavat tehokkaan yhdistelmän! Kuormantasaaja sijoitetaan Auto-Scaling Groupin eteen.

• Kuormantasaaja vastaanottaa kaiken saapuvan liikenteen.
• ASG lisää tai poistaa palvelimia automaattisesti kuormituksen perusteella.
• Kuormantasaaja tunnistaa automaattisesti ASG:n lisäämät uudet palvelimet ja alkaa ohjata liikennettä niille.

Näin muodostuu erittäin käytettävissä oleva, vikasietoinen ja elastinen järjestelmä.

Olemme tarkastelleet, kuinka kuormantasaus jakaa saapuvan liikenteen palvelimille estääkseen palvelinten ylikuormittumisen ja varmistaakseen korkean käytettävyyden toimien kuin älykäs liikenteenohjaaja.

Opimme myös automaattisesta skaalauksesta, joka säätää palvelinkapasiteettia dynaamisesti kuormituksen perusteella ja optimoi suorituskykyä sekä kustannuksia.

Yhdessä kuormantasaajat ja automaattisesti skaalautuvat ryhmät muodostavat vankan, elastisen ja erittäin käytettävissä olevan arkkitehtuurin SaaS-sovelluksellesi, joka on valmis käsittelemään mitä tahansa liikennepiikkiä!