Serverless-ympäristöjen observability-haasteet

Serverless-sovellukset ovat usein erittäin hajautettuja ja tapahtumavetoisia. Yksi käyttäjän pyyntö voi käynnistää useiden funktioiden, jonojen ja tietokantojen ketjun.

Pyynnön koko kulun jäljittäminen erityisesti asynkronisten rajojen yli (kuten jonossa olevien viestien kohdalla) on monimutkainen tehtävä. Erilliset tietopalaset on yhdistettävä toisiinsa.

”Kylmäkäynnistys” tapahtuu, kun serverless-funktio kutsutaan käyttämättömyysjakson jälkeen. Alustan on alustettava suoritusympäristö, mikä lisää kutsun viivettä.

• Kasvanut viive: Kylmäkäynnistykset voivat vaikuttaa merkittävästi käyttäjäkokemukseen.
• Vaikeasti ennustettava: Niiden esiintyminen riippuu liikennemalleista ja alustan hallinnasta.
• Edellyttää erityistä valvontaa: Kylmäkäynnistysten kesto on erotettava tavallisista suoritusajoista.

Serverless-laskennasta veloitetaan yleensä kutsujen määrän ja suorituksen keston perusteella. Tämän mallin vuoksi kustannustehokkuus on ensiarvoisen tärkeää, ja havainnoinnilla on siinä keskeinen rooli.

Valvomalla kutsujen määriä, funktioiden kestoja ja muistin käyttöä voitte tunnistaa tehottomat funktiot, optimoida resurssien kohdentamisen ja ehkäistä odottamattomia pilvilaskuja.

Lokit ovat serverless-havainnoinnin perusta. Useimmat serverless-alustat tallentavat stdout/stderr-tulosteen automaattisesti hallinnoituun lokipalveluun (esimerkiksi AWS CloudWatch Logsiin tai Azure Monitor Logsiin).

• Rakenteinen lokien kirjaus: Tulostakaa lokit aina rakenteisessa muodossa (kuten JSON-muodossa), jotta koneet voivat lukea ja kysellä niitä helposti.
• Kontekstitiedot: Sisällyttäkää jokaiseen lokimerkintään pyyntöjen tunnisteet, funktioiden nimet ja muut asiaankuuluvat metatiedot.
• Keskittäminen: Välittäkää lokit alustan omasta palvelusta keskitettyyn lokienhallintajärjestelmään (kuten ELK Stackiin tai Splunkiin) edistynyttä analyysiä varten.

Serverless-alustat tarjoavat yleensä keskeiset mittarit valmiina. Ne ovat välttämättömiä funktioiden kunnon ja suorituskyvyn ymmärtämiseksi ilman manuaalista instrumentointia.

• Kutsut: Kuinka monta kertaa funktiota kutsuttiin yhteensä.
• Virheet: Virheeseen johtaneiden kutsujen määrä.
• Kesto: Funktion suorittamiseen kulunut aika (erottakaa keskiarvo ja p99).
• Rajoitukset: Tilanteet, joissa samanaikaisuuden rajoitukset rajoittivat funktion suoritusta.
• Muistin käyttö: Kuinka paljon muistia funktio todellisuudessa kulutti määritettyyn rajaansa verrattuna.

Hajautettu jäljitys on ratkaisevan tärkeää monimutkaisten serverless-työnkulkujen ymmärtämisessä. Se yhdistää yksittäiset funktiokutsut yhdeksi päästä päähän ulottuvaksi pyyntöketjuksi.

AWS X-Rayn tai OpenTelemetry SDK:iden kaltaiset työkalut (joita käsitellään myöhemmällä kurssilla) auttavat välittämään kontekstin ja jäljitystunnisteet funktioiden rajojen yli, myös asynkronisissa kutsuissa. Näin voitte visualisoida koko työnkulun ja paikantaa suorituskyvyn pullonkaulat.

Jäljitystunniste voidaan esimerkiksi välittää tapahtumahyötykuormassa tai HTTP-otsakkeessa:

Hallitaksenne serverless-havainnoinnin yhdistäkää nämä käytännöt kehitystyönkulkuunne:

• Rakenteinen lokien kirjaus: Käyttäkää lokeissa aina JSON-muotoa.
• Kontekstin välitys: Toteuttakaa mekanismit, joilla jäljitystunnisteet ja muu konteksti välitetään kaikkien palveluiden kautta.
• Yksityiskohtaiset mittarit: Lisätkää oletusmittareiden lisäksi mukautettuja mittareita keskeistä liiketoimintalogiikkaa varten.
• Ennakoiva hälyttäminen: Määrittäkää hälytykset kriittisille mittareille, kuten virheille, rajoituksille ja pitkille suoritusajoille.
• Kustannustietoisuus: Tarkastelkaa havainnointitietoja säännöllisesti resurssien kohdentamisen optimoimiseksi ja kustannusten hallitsemiseksi.

Tässä oppitunnissa tutustuimme palvelimettomien funktioiden havainnoinnin ainutlaatuisiin haasteisiin, kuten niiden lyhytkestoisuuteen, hajautettuun arkkitehtuuriin ja kylmien käynnistysten vaikutuksiin.

Käsittelimme myös tehokkaan palvelimettoman havainnoinnin keskeisiä strategioita keskittyen rakenteiseen lokitukseen, olennaisiin mittareihin sekä hajautetun jäljityksen tärkeyteen, jotta näissä dynaamisissa ympäristöissä saadaan kokonaisvaltainen näkyvyys.