Uitdagingen bij serverless observability

Serverless applicaties zijn vaak sterk gedistribueerd en gebeurtenisgestuurd. Eén gebruikersaanvraag kan een keten van meerdere functies, wachtrijen en databases activeren.

Het volledige verloop van een aanvraag traceren, vooral over asynchrone grenzen heen (zoals berichten in een wachtrij), is een complexe taak. Je moet verschillende stukken informatie aan elkaar koppelen.

Een 'cold start' vindt plaats wanneer een serverless functie wordt aangeroepen na een periode van inactiviteit. Het platform moet de uitvoeringsomgeving initialiseren, wat latentie aan de aanroep toevoegt.

• Hogere latentie: Cold starts kunnen de gebruikerservaring aanzienlijk beïnvloeden.
• Moeilijk te voorspellen: Of ze optreden hangt af van verkeerspatronen en het beheer van het platform.
• Specifieke monitoring vereist: Je moet de duur van cold starts onderscheiden van normale uitvoeringstijden.

Serverless computing wordt doorgaans per aanroep en uitvoeringsduur geprijsd. Dit model maakt kostenefficiëntie uiterst belangrijk, en observeerbaarheid speelt daarbij een cruciale rol.

Door het aantal aanroepen, de duur van functies en het geheugengebruik te monitoren, kun je inefficiënte functies identificeren, de toewijzing van resources optimaliseren en onverwachte cloudfacturen voorkomen.

Logboeken vormen de basis van serverless observeerbaarheid. De meeste serverless platforms leggen stdout/stderr automatisch vast in een beheerde loggingservice (bijvoorbeeld AWS CloudWatch Logs of Azure Monitor Logs).

• Gestructureerde logging: Geef logboeken altijd in een gestructureerd formaat (zoals JSON) weer, zodat ze door machines kunnen worden gelezen en gemakkelijk kunnen worden bevraagd.
• Contextuele informatie: Neem aanvraag-ID's, functienamen en andere relevante metagegevens op in elke logboekvermelding.
• Centralisatie: Stuur logboeken vanuit de native service van het platform door naar een gecentraliseerd logsysteem (zoals ELK Stack of Splunk) voor geavanceerde analyse.

Serverless platforms bieden meestal direct de belangrijkste metingen. Deze zijn essentieel om de gezondheid en prestaties van functies te begrijpen zonder handmatige instrumentatie.

• Aanroepen: Het totale aantal keren dat een functie is aangeroepen.
• Fouten: Het aantal aanroepen dat in een fout resulteerde.
• Duur: De tijd die de functie nodig heeft om te worden uitgevoerd (maak onderscheid tussen het gemiddelde en p99).
• Afgeknepen aanroepen: Wanneer de uitvoering van een functie wordt beperkt door limieten voor gelijktijdigheid.
• Geheugengebruik: Hoeveel geheugen de functie daadwerkelijk heeft gebruikt in vergelijking met de geconfigureerde limiet.

Gedistribueerde tracing is cruciaal om complexe serverless workflows te begrijpen. Het koppelt afzonderlijke functieaanroepen aan één volledige aanvraagroute van begin tot eind.

Hulpprogramma's zoals AWS X-Ray of OpenTelemetry-SDK's (die in een latere cursus worden behandeld) helpen context en trace-ID's over functiegrenzen heen door te geven, zelfs bij asynchrone aanroepen. Zo kun je de volledige stroom visualiseren en knelpunten in de prestaties lokaliseren.

Een trace-ID kan bijvoorbeeld worden doorgegeven in een gebeurtenislading of HTTP-header:

Om serverless observeerbaarheid goed te beheersen, integreer je deze werkwijzen in je ontwikkelworkflow:

• Gestructureerde logging: Gebruik altijd JSON voor je logboeken.
• Contextpropagatie: Implementeer mechanismen om trace-ID's en andere context door te geven via alle services.
• Gedetailleerde metingen: Voeg naast de standaardmetingen aangepaste metingen toe voor belangrijke bedrijfslogica.
• Proactieve waarschuwingen: Stel waarschuwingen in voor kritieke metingen, zoals fouten, afgeknepen aanroepen en lange uitvoeringsduren.
• Kostenbewustzijn: Bekijk regelmatig gegevens over observeerbaarheid om de toewijzing van resources te optimaliseren en kosten te beheren.

In deze les hebben we de unieke uitdagingen van het observeren van serverless-functies onderzocht, waaronder hun vluchtige aard, gedistribueerde architectuur en de impact van koude starts.

We hebben ook belangrijke strategieën voor effectieve serverless-observability behandeld, met aandacht voor gestructureerde logging, essentiële metrische gegevens en het belang van gedistribueerde tracing om in deze dynamische omgevingen inzicht te krijgen in de volledige keten.