Samanaikaisuus, rajoittaminen ja varattu samanaikaisuus

Lambda skaalautuu suorittamalla funktiosta useita samanaikaisia suorituksia – yhden kutakin yhtäaikaista tapahtumaa kohden. Kun 100 pyyntöä saapuu samanaikaisesti, Lambda suorittaa funktiosta 100 rinnakkaista instanssia. AWS hallinnoi taustalla olevaa infrastruktuuria automaattisesti. Tilikohtainen samanaikaisuusraja on oletusarvoisesti 1 000 samanaikaista suoritusta aluetta kohden (pehmeä raja, jota voidaan nostaa palvelukiintiöpyynnöllä).

Samanaikaisuus lasketaan seuraavasti: Samanaikaisuus = pyyntöä sekunnissa × keskimääräinen kesto sekunteina. Jos funktio käsittelee 500 pyyntöä sekunnissa ja kunkin käsittely kestää 0,2 sekuntia, tarvitaan 100 samanaikaista suoritusta. Tämän kaavan ymmärtäminen auttaa ennakoimaan, riittävätkö tilinne rajat ja tarvitseeko kiintiöiden korotusta pyytää ennen paljon liikennettä aiheuttavaa tapahtumaa.

Kun Lambda vastaanottaa enemmän pyyntöjä kuin sen samanaikaisuusraja sallii, se rajoittaa ylimääräisiä pyyntöjä. Synkronisissa kutsuissa (esimerkiksi API Gateway) rajoitetut pyynnöt saavat heti 429 TooManyRequestsException -virheen, joka kutsujan on käsiteltävä. Asynkronisissa kutsuissa (esimerkiksi S3-tapahtumat) Lambda jonottaa tapahtumat ja yrittää niitä uudelleen enintään 6 tunnin ajan ennen niiden lähettämistä dead-letter-jonoon.

Reserved Concurrency takaa tietyn määrän tietyn funktion samanaikaisia suorituksia varaamalla kyseisen määrän tilin resurssivarannosta. Sillä on kaksi tarkoitusta: (1) se takaa kapasiteetin – funktiolla on aina kyseinen määrä suorituksia käytettävissään, vaikka muut funktiot käyttäisivät tilin kiintiötä; (2) se rajoittaa samanaikaisuutta – funktio ei voi koskaan ylittää varattua määrää, mikä suojaa taustariippuvuuksia ylikuormitukselta.

Keskeinen koetilanne: Lambda-funktio kirjoittaa RDS-tietokantaan, jonka yhteysraja on 50. Ilman samanaikaisuuden hallintaa Lambda voisi skaalautua satoihin samanaikaisiin suorituksiin ja kuluttaa kaikki tietokantayhteydet, mikä aiheuttaisi virheitä kaikille funktioille. Kun varatuksi samanaikaisuudeksi asetetaan 40, Lambda ei koskaan ylitä 40:tä yhtäaikaista tietokantayhteyttä, joten RDS-instanssi pysyy suojattuna. Tämä on keskeinen toimintamalli kaikille Lambda-funktioille, jotka kutsuvat yhteyksien määrää rajoittavaa palvelua.

Provisioned Concurrency alustaa ennalta määritetyn määrän Lambdan suoritusympäristöjä, jotta ne ovat valmiita vastaamaan välittömästi ilman kylmäkäynnistystä. Tämä on tärkeää viiveherkille rajapinnoille, joissa jopa 100 millisekunnin kylmäkäynnistystä ei voida hyväksyä. Esilämmitetystä samanaikaisuudesta veloitetaan tuntihinta, vaikka ympäristöt olisivat käyttämättömiä, joten yhdistäkää se Auto Scalingiin ja säätäkää esilämmitettyä määrää ennakoitujen liikennemallien perusteella.

Nämä käsitteet sekoitetaan usein toisiinsa, mutta niillä on eri tarkoitukset. Reserved Concurrency rajoittaa ja takaa tilin resurssivarannosta allokoidun kapasiteetin – se EI poista kylmäkäynnistyksiä. Provisioned Concurrency esilämmittää suoritusympäristöt kylmäkäynnistysten poistamiseksi – se EI estä muita funktioita käyttämästä samaa resurssivarantoon. Käyttäkää varattua samanaikaisuutta läpimenon rajoittamiseen ja esilämmitettyä samanaikaisuutta viiveen pienentämiseen. Molempia voidaan käyttää samassa funktiossa.

Lambda ei skaalaudu täyteen samanaikaisuuteen välittömästi. Tilillä on aluekohtainen purskahdusraja (alkuskaalausnopeus), joka vaihtelee alueittain – tyypillisesti aluksi 3 000 suoritusta ja sen jälkeen 500 lisäsuoritusta minuutissa, kunnes raja saavutetaan. Jos sovellukseen odotetaan äkillisiä valtavia liikennepiikkejä, kuten viraaliksi muuttuvaa liikennettä tai kampanjamyyntiä, käyttäkää Provisioned Concurrency -ominaisuutta riittävän monen ympäristön esilämmittämiseen, jotta purskahdusraja ei aiheuta rajoittamista alkuvaiheen liikennepiikin aikana.

Seuratkaa Lambdan samanaikaisuutta näiden keskeisten CloudWatch-mittareiden avulla:

• ConcurrentExecutions: käynnissä olevien instanssien määrä
• Throttles: rajoitettujen kutsujen määrä (terveessä järjestelmässä tämän pitäisi olla nolla)
• UnreservedConcurrentExecutions: tilikohtainen varaamaton resurssivaranto
• ProvisionedConcurrencyUtilization: käytössä olevan esilämmitetyn kapasiteetin määrä

Asettakaa hälytykset Throttles-mittarille, jotta saatte ilmoituksen ennen kuin rajoittaminen vaikuttaa loppukäyttäjiin.

Kun suunnittelette Lambdaa synkronisesti kutsuvia järjestelmiä (API Gateway, SDK:n suorat kutsut), toteuttakaa kutsujassa eksponentiaalinen uudelleenyritys satunnaisella viiveellä. AWS SDK:issa on sisäänrakennettu uudelleenyrityslogiikka, mutta API Gatewayn kautta kutsuttavaa Lambdaa käytettäessä asiakkaan sovelluksen on käsiteltävä 429-vastaukset. SQS:n käynnistämässä Lambdassa SQS-palvelu hoitaa uudelleenyritykset itse. Asettakaa lähdejonoa varten Maximum Receives asianmukaisesti ja määrittäkää DLQ epäonnistuneiden uudelleenyritysten käsittelyä varten.

Kinesis Data Streams- ja DynamoDB Streams -palveluissa Lambdan samanaikaisuutta rajoittaa shardien (Kinesis) tai osioiden (DynamoDB) määrä. Kukin shard tai osio käsitellään täsmälleen yhdellä samanaikaisella Lambda-suorituksella. Jos Kinesiksessä on 10 shardia, Lambda suorittaa tätä laukaisinta varten enintään 10 samanaikaista suoritusta. Tämä tarkoittaa, että suoratoistoon perustuvien laukaisimien rajoitusongelmat ratkaistaan yleensä kasvattamalla shardien määrää eikä nostamalla samanaikaisuusrajoja.

Tässä oppitunnissa opitte, että Reserved Concurrency sekä takaa että rajoittaa funktion samanaikaisia suorituksia suojatakseen taustapalveluja ja varmistaakseen saatavuuden; Provisioned Concurrency alustaa ympäristöt ennalta kylmäkäynnistysten poistamiseksi viiveherkissä kuormissa; ja rajoittaminen ilmenee synkronisissa kutsuissa 429-virheinä ja asynkronisissa kutsuissa jonotettuina uudelleenyrityksinä. Rajoittamista voidaan seurata CloudWatchin Throttles-mittarilla. Seuraavaksi tutustumme Lambda Layereihin ja käyttöönottopaketteihin suurten riippuvuuksien hallintaa varten.