Keserentakan, Pendikitan dan Keserentakan Terpelihara

Lambda menskala dengan menjalankan berbilang pelaksanaan serentak bagi fungsi anda—satu untuk setiap peristiwa serentak. Apabila 100 permintaan tiba pada masa yang sama, Lambda menjalankan 100 tika selari fungsi anda. AWS mengurus infrastruktur asas secara automatik. Had keserentakan peringkat akaun ialah 1,000 pelaksanaan serentak bagi setiap Wilayah secara lalai (had lembut yang boleh ditingkatkan melalui permintaan kuota perkhidmatan).

Keserentakan dikira seperti berikut: Keserentakan = Permintaan sesaat × Tempoh purata dalam saat. Jika fungsi anda mengendalikan 500 permintaan sesaat dan setiap satu mengambil masa 0.2 saat, anda memerlukan 100 pelaksanaan serentak. Memahami formula ini membantu anda meramalkan sama ada had akaun anda mencukupi dan sama ada anda perlu memohon peningkatan kuota sebelum acara dengan trafik tinggi.

Apabila Lambda menerima lebih banyak permintaan daripada yang dibenarkan oleh had keserentakannya, ia mengehadkan penggunaan permintaan berlebihan tersebut. Bagi pemanggilan segerak (contohnya, API Gateway), permintaan yang dihadkan serta-merta menerima 429 TooManyRequestsException yang mesti dikendalikan oleh pemanggil. Bagi pemanggilan tak segerak (contohnya, peristiwa S3), Lambda mengekalkan peristiwa dalam baris gilir dan mencuba semula sehingga 6 jam sebelum menghantarnya ke baris gilir surat mati.

Keserentakan Tersimpan menjamin bilangan pelaksanaan serentak tertentu untuk fungsi tertentu dengan menyimpan bilangan tersebut daripada kumpulan akaun. Ia mempunyai dua tujuan: (1) menjamin kapasiti—fungsi akan sentiasa mempunyai bilangan pelaksanaan itu walaupun fungsi lain sedang menggunakan kuota akaun; (2) mengehadkan keserentakan—fungsi tidak boleh melebihi jumlah tersimpan, sekali gus melindungi kebergantungan hiliran daripada beban berlebihan.

Satu senario peperiksaan yang penting: fungsi Lambda menulis ke pangkalan data RDS yang mempunyai had sambungan sebanyak 50. Tanpa kawalan keserentakan, Lambda boleh menskala kepada ratusan pelaksanaan serentak dan menghabiskan semua sambungan pangkalan data, lalu menyebabkan ralat bagi setiap fungsi. Menetapkan keserentakan tersimpan kepada 40 memastikan Lambda tidak pernah melebihi 40 sambungan pangkalan data serentak, sekali gus melindungi tika RDS. Ini ialah corak penting bagi mana-mana fungsi Lambda yang memanggil perkhidmatan dengan sambungan terhad.

Keserentakan Disediakan memulakan terlebih dahulu sejumlah persekitaran pelaksanaan Lambda supaya semuanya sedia memberikan respons serta-merta tanpa permulaan sejuk. Ini amat penting untuk API sensitif kependaman, yang tidak boleh menerima walaupun permulaan sejuk selama 100 milisaat. Anda membayar kadar setiap jam untuk keserentakan disediakan walaupun persekitaran tersebut tidak digunakan, jadi gabungkannya dengan penskalaan automatik untuk melaraskan tahap yang disediakan berdasarkan corak trafik yang diramalkan.

Kedua-duanya sering dikelirukan tetapi mempunyai tujuan yang berbeza. Keserentakan Tersimpan mengehadkan dan menjamin peruntukan kapasiti daripada kumpulan akaun—ia TIDAK menghapuskan permulaan sejuk. Keserentakan Disediakan memanaskan persekitaran pelaksanaan terlebih dahulu untuk menghapuskan permulaan sejuk—ia TIDAK menghalang fungsi lain daripada menggunakan kumpulan yang sama. Gunakan keserentakan tersimpan untuk mengehadkan daya pemprosesan; gunakan keserentakan disediakan untuk meningkatkan kependaman. Kedua-duanya boleh digunakan bersama pada fungsi yang sama.

Lambda tidak menskala kepada keserentakan penuh serta-merta. Terdapat had ledakan peringkat akaun (kadar penskalaan awal) yang berbeza mengikut Wilayah—biasanya 3,000 ledakan awal, kemudian 500 pelaksanaan tambahan seminit sehingga had dicapai. Bagi aplikasi yang menjangkakan lonjakan besar secara tiba-tiba (trafik tular, jualan kilat), gunakan Keserentakan Disediakan untuk memanaskan terlebih dahulu persekitaran yang mencukupi supaya had ledakan tidak menyebabkan pengehadgunaan semasa lonjakan awal.

Pantau keserentakan Lambda dengan metrik CloudWatch utama berikut:

• ConcurrentExecutions: bilangan semasa tika yang sedang berjalan
• Throttles: bilangan pemanggilan yang dihadkan (sepatutnya sifar dalam sistem yang sihat)
• UnreservedConcurrentExecutions: kumpulan tidak tersimpan peringkat akaun
• ProvisionedConcurrencyUtilization: jumlah kapasiti disediakan yang sedang digunakan

Tetapkan penggera pada Throttles supaya anda menerima pemberitahuan sebelum pengehadgunaan menjejaskan pengguna akhir.

Apabila mereka bentuk sistem yang memanggil Lambda secara segerak (API Gateway, panggilan terus SDK), laksanakan undur eksponen dengan kegentaran pada pemanggil. SDK AWS mempunyai logik percubaan semula terbina dalam, tetapi untuk Lambda yang berada di belakang API Gateway, anda mesti mengendalikan respons 429 dalam aplikasi client anda. Bagi Lambda yang dicetuskan oleh SQS, perkhidmatan SQS sendiri mengendalikan percubaan semula; tetapkan Bilangan Penerimaan Maksimum pada baris gilir sumber dengan sewajarnya dan konfigurasikan DLQ untuk percubaan semula yang telah habis.

Bagi Kinesis Data Streams dan DynamoDB Streams, keserentakan Lambda dihadkan oleh bilangan pecahan (Kinesis) atau partisi (DynamoDB). Setiap pecahan/partisi diproses tepat oleh satu pelaksanaan Lambda serentak. Jika anda mempunyai 10 pecahan Kinesis, Lambda menjalankan sehingga 10 pelaksanaan serentak untuk pencetus tersebut. Ini bermaksud isu pengehadgunaan dengan pencetus berasaskan strim biasanya diselesaikan dengan menambah bilangan pecahan, bukannya meningkatkan had keserentakan.

Dalam pelajaran ini anda mempelajari bahawa: Keserentakan Tersimpan menjamin dan mengehadkan pelaksanaan serentak fungsi bagi melindungi perkhidmatan hiliran serta memastikan ketersediaan; Keserentakan Disediakan memulakan persekitaran terlebih dahulu untuk menghapuskan permulaan sejuk bagi beban kerja sensitif kependaman; dan pengehadgunaan muncul sebagai ralat 429 bagi pemanggilan segerak serta percubaan semula beratur bagi pemanggilan tak segerak—pantau dengan metrik CloudWatch Throttles. Seterusnya kita akan meneroka Lapisan Lambda dan pakej penggunaan untuk mengurus kebergantungan yang besar.