Eşzamanlılık, Kısıtlama ve Ayrılmış Eşzamanlılık

Lambda, işlevinizin birden çok eşzamanlı yürütmesini çalıştırarak ölçeklenir; her eşzamanlı olay için bir yürütme çalıştırılır. Aynı anda 100 istek geldiğinde Lambda, işlevinizin 100 paralel örneğini çalıştırır. AWS, temel altyapıyı otomatik olarak yönetir. hesap düzeyindeki eşzamanlılık sınırı, varsayılan olarak Bölge başına 1.000 eşzamanlı yürütmedir (artırılabilen bir esnek sınırdır ve hizmet kotası isteğiyle yükseltilebilir).

Eşzamanlılık şu şekilde hesaplanır: Eşzamanlılık = Saniyedeki İstek Sayısı × Saniye Cinsinden Ortalama Süre. İşleviniz saniyede 500 isteği işliyorsa ve her istek 0,2 saniye sürüyorsa 100 eşzamanlı yürütmeye ihtiyacınız vardır. Bu formülü anlamak, hesap sınırlarınızın yeterli olup olmadığını ve yoğun trafikli bir etkinlikten önce kota artışı istemeniz gerekip gerekmediğini öngörmenize yardımcı olur.

Lambda, eşzamanlılık sınırının izin verdiğinden daha fazla istek aldığında fazlalıkları kısıtlar. eş zamanlı çağrılarda (ör. API Gateway) kısıtlanan istekler, çağıran tarafından ele alınması gereken 429 TooManyRequestsException hatasını hemen alır. eş zamansız çağrılarda (ör. S3 olayları) Lambda, olayları kuyruğa alır ve bunları ölü mektup kuyruğuna göndermeden önce 6 saate kadar yeniden dener.

Reserved Concurrency, belirli bir işlev için belirli sayıda eşzamanlı yürütmeyi garanti eder ve bu yürütmeleri hesap havuzundan ayırır. İki amaca hizmet eder: (1) kapasiteyi garanti eder; diğer işlevler hesap kotasını tüketiyor olsa bile işlevin her zaman bu sayıda kullanılabilir yürütmesi olur; (2) eşzamanlılığı sınırlar; işlev ayrılan miktarı hiçbir zaman aşamaz ve böylece alt hizmetlerin aşırı yüklenmesini önler.

Önemli bir sınav senaryosu: Bir Lambda işlevi, bağlantı sınırı 50 olan bir RDS veritabanına yazıyor. Eşzamanlılık denetimleri olmadan Lambda, yüzlerce eşzamanlı yürütmeye ölçeklenebilir ve tüm veritabanı bağlantılarını tüketerek her işlev için hatalara neden olabilir. Ayrılmış eşzamanlılığı 40 olarak ayarlamak, Lambda'nın hiçbir zaman 40 eşzamanlı veritabanı bağlantısını aşmamasını ve RDS örneğinin korunmasını sağlar. Bu, bağlantı sayısı sınırlı bir hizmeti çağıran her Lambda işlevi için kritik bir düzendir.

Provisioned Concurrency, belirli sayıda Lambda yürütme ortamını önceden başlatır; böylece bu ortamlar soğuk başlatma olmadan hemen yanıt vermeye hazır olur. Bu, 100 ms'lik bir soğuk başlatmanın bile kabul edilemez olduğu gecikmeye duyarlı API'ler için kritik öneme sahiptir. Bu ortamlar boşta olsa bile sağlanmış eşzamanlılık için saatlik ücret ödersiniz; bu nedenle sağlanmış düzeyleri öngörülen trafik düzenlerine göre ayarlamak için bunu Auto Scaling ile birlikte kullanın.

Bunlar çoğu zaman karıştırılır; ancak farklı amaçlara hizmet eder. Reserved Concurrency, hesap havuzundaki kapasite tahsisini sınırlar ve garanti eder; soğuk başlatmaları ortadan kaldırmaz. Provisioned Concurrency, soğuk başlatmaları ortadan kaldırmak için yürütme ortamlarını önceden ısıtır; diğer işlevlerin aynı havuzu kullanmasını engellemez. İş hacmini sınırlamak için ayrılmış eşzamanlılığı, gecikmeyi iyileştirmek için sağlanmış eşzamanlılığı kullanın. Her ikisi de aynı işlevde birlikte kullanılabilir.

Lambda, tam eşzamanlılığa anında ölçeklenmez. Bölgeye göre değişen bir hesap düzeyi ani artış sınırı (başlangıç ölçeklendirme hızı) vardır; bu sınır genellikle ilk anda 3.000, ardından sınıra ulaşılana kadar dakikada 500 ek yürütmedir. Ani ve büyük artışlar bekleyen uygulamalarda (viral trafik, kısa süreli indirimler), başlangıçtaki artış sırasında ani artış sınırının kısıtlamaya neden olmaması için yeterli ortamı önceden ısıtmak üzere Provisioned Concurrency kullanın.

Lambda eşzamanlılığını şu temel CloudWatch ölçümleriyle izleyin:

• ConcurrentExecutions: o anda çalışan örneklerin sayısı
• Throttles: kısıtlanan çağrıların sayısı (sağlıklı bir sistemde sıfır olmalıdır)
• UnreservedConcurrentExecutions: hesap düzeyindeki ayrılmamış havuz
• ProvisionedConcurrencyUtilization: sağlanmış kapasitenin ne kadarının kullanıldığı

Kısıtlamanın son kullanıcıları etkilemesinden önce bildirim almak için Throttles üzerinde alarmlar ayarlayın.

Lambda'yı eş zamanlı olarak çağıran sistemleri tasarlarken (API Gateway, doğrudan SDK çağrıları), çağıran tarafta jitter içeren üstel geri çekilme uygulayın. AWS SDK'larında yerleşik yeniden deneme mantığı vardır; ancak API Gateway önündeki Lambda için 429 yanıtlarını istemci uygulamanızda ele almanız gerekir. SQS tarafından tetiklenen Lambda için yeniden denemeleri SQS hizmetinin kendisi yönetir; kaynak kuyruğunda Maksimum Alma Sayısı değerini uygun şekilde ayarlayın ve yeniden denemeler tükendiğinde kullanılmak üzere bir DLQ yapılandırın.

Kinesis Data Streams ve DynamoDB Streams için Lambda eşzamanlılığı, parçaların (Kinesis) veya bölümlerin (DynamoDB) sayısıyla sınırlıdır. Her parça/bölüm tam olarak bir eşzamanlı Lambda yürütmesi tarafından işlenir. 10 Kinesis parçanız varsa Lambda, bu tetikleyici için en fazla 10 eşzamanlı yürütme çalıştırır. Bu nedenle akış tabanlı tetikleyicilerdeki kısıtlama sorunları genellikle eşzamanlılık sınırlarını artırmak yerine parça sayısını artırarak çözülür.

Bu dersteki AWS Solutions Architect (SAA-C03) kavramlarını anlayıp anlamadığınızı sınayın.

Bu derste şunları öğrendiniz: Reserved Concurrency, alt hizmetleri korumak ve kullanılabilirliği güvence altına almak için bir işlevin eşzamanlı yürütmelerini hem garanti eder hem de sınırlar; Provisioned Concurrency, gecikmeye duyarlı iş yüklerinde soğuk başlatmaları ortadan kaldırmak için ortamları önceden başlatır; kısıtlama ise eş zamanlı çağrılarda 429 hataları, eş zamansız çağrılarda kuyruğa alınmış yeniden denemeler olarak ortaya çıkar ve Throttles CloudWatch ölçümüyle izlenir. Sırada büyük bağımlılıkları yönetmek için Lambda Katmanlarını ve dağıtım paketlerini inceleyeceğiz.