Caching og throttling

I API-verdenen er hastighed og pålidelighed afgørende. Høj latenstid (langsomme svar) frustrerer brugerne, mens pludselige trafikspidser kan få dine backend-tjenester til at gå ned.

Denne lektion gennemgår to effektive funktioner i AWS API Gateway: cachelagring og hastighedsbegrænsning. De hjælper dig med at levere hurtige, stabile og omkostningseffektive API'er.

Cachelagring minder om midlertidig lagring af data, der ofte anmodes om. I stedet for altid at hente data fra dit backend (f.eks. en database eller en Lambda-funktion) kan API Gateway gemme svaret og levere det direkte.

• Reducerer latenstid: Svar returneres meget hurtigere.
• Reducerer belastning: Dine backend-tjenester modtager færre anmodninger.
• Sparer omkostninger: Mindre brug af beregning og database.

Når cachelagring er aktiveret for et API-trin, gemmer API Gateway svar fra dit backend i et angivet tidsrum.

Sådan fungerer det:

1. En klient sender en anmodning til API Gateway.
2. API Gateway kontrollerer, om der findes et gyldigt svar på anmodningen i cachen.
3. Hvis svaret findes, returnerer API Gateway straks det cachelagrede svar.
4. Hvis det ikke findes, videresender API Gateway anmodningen til dit backend, cachelagrer svaret og returnerer det derefter til klienten.

Cachelagring konfigureres på niveauet for API-trinnet. Du angiver en cachekapacitet og en standardværdi for levetid (TTL) for cachelagrede svar.

• Cachekapacitet: Cachens størrelse (f.eks. 0,5 GB til 237 GB).
• TTL (levetid): Hvor længe svar gemmes i cachen, angivet i sekunder (standard er 300 sek.).
• Kryptering: Cachedata kan krypteres under lagring.

Du kan også tilsidesætte TTL-værdien for hver metode eller deaktivere cachelagring for bestemte metoder.

Hvad sker der, hvis dine backend-data ændres? Du vil ikke levere forældede cachelagrede data. Det er her, cache-invalidering kommer ind i billedet.

• Klientside: Klienter kan sende headeren Cache-Control: max-age=0 for at omgå cachen og tvinge et aktuelt svar frem.
• API-nøgle: Hvis du bruger API-nøgler, kan klienter med nøglen ugyldiggøre cachen for bestemte anmodninger.
• Manuelt: Du kan manuelt ugyldiggøre hele trinnets cache via AWS Management Console eller CLI.

Hastighedsbegrænsning handler om at begrænse antallet af anmodninger, som dit API kan modtage i et bestemt tidsrum. Tænk på det som en trafikbetjent for dit API.

Det er afgørende for:

• Beskyttelse af backend: Forhindrer, at dine backend-tjenester bliver overbelastet.
• Omkostningskontrol: Reducerer uventede spidser i ressourceforbruget.
• Retfærdig brug: Sikrer, at alle brugere får en rimelig andel af API-adgangen.

API Gateway håndhæver hastighedsbegrænsning baseret på to hovedmålinger:

• Hastighed: Det stabile antal anmodninger pr. sekund (RPS), som klienter kan sende til dit API.
• Spidsbelastning: Det maksimale antal samtidige anmodninger, som API Gateway opfylder, før den returnerer 429 Too Many Requests-fejl. Det giver mulighed for korte spidser over den stabile hastighed.

Når grænserne nås, afviser API Gateway overskydende anmodninger og beskytter dermed dit backend.

AWS angiver hastighedsbegrænsninger på kontoniveau som standard for API Gateway for at sikre stabilitet på tværs af alle brugere. Det er bløde grænser, hvilket betyder, at du kan anmode om forhøjelser.

• Eksempel: En standard kan være 10.000 anmodninger pr. sekund (RPS) og en spidsbelastning på 5.000 samtidige anmodninger på tværs af alle API'er i en region.

Disse grænser gælder, før der tages højde for grænser, der er specifikke for trin eller brugsplaner.

Ud over grænserne på kontoniveau kan du konfigurere hastighedsbegrænsning på trinniveau for individuelle metoder eller hele API-trin.

• Du kan angive en standardgrænse for hastighed og spidsbelastning for hele trinnet (f.eks. 100 RPS for dev og 1000 RPS for prod).
• Du kan også tilsidesætte disse standarder for bestemte HTTP-metoder (f.eks. kan en POST /items have en lavere grænse end en GET /items).

Hvis du har brug for mere detaljeret kontrol, især når du administrerer forskellige brugertrin eller tjener penge på dit API, kan du bruge brugsplaner sammen med API-nøgler.

• Brugsplan: Definerer tilpassede grænser for hastighedsbegrænsning (hastighed og spidsbelastning) samt kvoter (det samlede antal anmodninger i et tidsrum) for en gruppe klienter.
• API-nøgle: En unik identifikator, som klienter inkluderer i deres anmodninger. API Gateway bruger denne nøgle til at knytte klienten til en brugsplan og håndhæve planens specifikke grænser.

Det giver dig mulighed for at tilbyde forskellige serviceniveauer (f.eks. Gratis og Premium) til forskellige klienter.

Vi har gennemgået, hvordan cachelagring forbedrer API-ydeevnen markant ved at reducere latenstid og belastning af backend. Vi har også lært, hvordan hastighedsbegrænsning beskytter dine tjenester mod trafikspidser og sikrer retfærdig brug gennem konfigurationer på konto-, trin- og brugsplanniveau.

Disse funktioner er afgørende for at opbygge robuste og skalerbare serverløse API'er med AWS API Gateway.