Penyeimbangan Beban di Seluruh Server

Penyeimbangan beban menyebarkan lalu lintas masuk ke beberapa peladen agar tidak ada satu peladen yang kewalahan. Alih-alih satu peladen yang sibuk menjadi lambat, beberapa peladen berbagi pekerjaan sehingga kinerja dan keandalan meningkat. Perangkat atau layanan yang disebut penyeimbang beban berada di depan para peladen dan membagikan permintaan di antara mereka, sehingga kumpulan peladen terlihat seperti satu layanan cepat.

Penyeimbangan beban memberikan dua manfaat besar: skalabilitas dan ketersediaan. Menambahkan lebih banyak server di belakang penyeimbang meningkatkan kapasitas untuk menangani pertumbuhan, dan jika salah satu server gagal, penyeimbang cukup berhenti mengirimkan lalu lintas kepadanya agar pengguna tetap terlayani. Cara ini mengubah satu server yang rentan menjadi kumpulan server yang tangguh dan dapat diperluas.

Penyeimbang beban menerima permintaan klien pada satu IP virtual (VIP) di sisi depan, lalu meneruskan setiap permintaan ke salah satu server di sisi belakang. Klien hanya berkomunikasi dengan VIP dan tidak mengetahui berapa banyak server yang berada di belakangnya. Penyeimbang dapat berupa perangkat keras khusus atau perangkat lunak, dan penyeimbang itu sendiri sering dibuat redundan agar tidak menjadi SPOF.

Penyeimbang menggunakan algoritme untuk memilih server. Round robin bergiliran memilih server berdasarkan urutan. Koneksi paling sedikit memilih server dengan sesi aktif paling sedikit. Metode berbobot lebih mengutamakan server yang lebih kuat. Pemilihan algoritme yang tepat menyesuaikan lalu lintas dengan kapasitas server sehingga beban kumpulan server tetap merata dan efisien.

Penyeimbang beban terus-menerus menjalankan pemeriksaan kesehatan dengan menguji setiap server untuk memastikan server tersebut merespons. Jika server gagal dalam pemeriksaan, penyeimbang berhenti mengirimkan permintaan kepadanya sampai server pulih. Inilah yang membuat penyeimbangan beban juga menjadi sarana ketersediaan tinggi: server yang gagal otomatis dikeluarkan dari rotasi sehingga pengguna tidak pernah terhubung ke server yang mati.

Beberapa aplikasi memerlukan permintaan pengguna untuk terus diarahkan ke server yang sama, misalnya untuk mempertahankan keranjang belanja yang disimpan dalam memori server tersebut. Persistensi sesi (atau "sesi lekat") mengikat klien ke satu server selama sesi berlangsung. Tanpanya, pengguna yang berpindah-pindah antarserver mungkin kehilangan status di tengah tugas.

Penyeimbang beroperasi pada lapisan yang berbeda. Penyeimbang Lapisan 4 mendistribusikan berdasarkan IP dan port TCP/UDP, sehingga cepat tetapi tidak memahami isi lalu lintas. Penyeimbang Lapisan 7 membaca data aplikasi seperti URL HTTP, sehingga dapat melakukan perutean cerdas, misalnya mengirim /images ke satu kumpulan server dan /api ke kumpulan lainnya. Lapisan 7 lebih kuat, tetapi melakukan lebih banyak pekerjaan untuk setiap permintaan.

Penyeimbang beban sering melakukan pelepasan beban SSL/TLS (terminasi): penyeimbang menangani pekerjaan enkripsi untuk klien dan mendekripsi lalu lintas sehingga server di sisi belakang tidak perlu melakukannya. Hal ini membebaskan CPU server untuk aplikasi dan memusatkan pengelolaan sertifikat pada penyeimbang. Inilah alasan umum organisasi menempatkan penyeimbang Lapisan 7 yang cerdas di depan server web.

Jika seluruh lalu lintas mengalir melalui satu penyeimbang beban, penyeimbang tersebut menjadi satu titik kegagalan. Karena itu, penyeimbang diterapkan secara berpasangan, dalam mode aktif-aktif atau aktif-pasif, dengan pengalihan kegagalan di antara keduanya. Perangkat yang menyediakan ketersediaan harus memiliki ketersediaan tinggi pula. Sepasang penyeimbang yang redundan menjaga seluruh sisi depan tetap tangguh.

Penyedia awan menawarkan penyeimbangan beban sebagai layanan terkelola yang skalanya meningkat secara otomatis sesuai permintaan. Jika dipadukan dengan kelompok server yang skalanya otomatis, awan dapat menambahkan dan menghapus server di belakang penyeimbang berdasarkan beban, lalu menyeimbangkan lalu lintas di antara server yang sedang berjalan. Model elastis ini merupakan salah satu alasan utama aplikasi awan dapat menangani lalu lintas besar yang berubah-ubah dengan baik.

Penyeimbangan beban dan redundansi saling mendukung untuk mencapai kinerja dan ketersediaan tinggi. Redundansi menyediakan kapasitas serta komponen cadangan; penyeimbangan beban secara aktif menggunakan kapasitas tersebut, menyebarkan pekerjaan dan mengarahkan lalu lintas menghindari kegagalan secara waktu nyata. Bersama-sama, keduanya memungkinkan layanan tetap cepat saat beban berat dan tetap aktif ketika server tertentu gagal, yang merupakan landasan desain tangguh.

Anda telah mempelajari penyeimbangan beban. Poin penting:

• Penyeimbangan beban menyebarkan lalu lintas ke berbagai server untuk meningkatkan skalabilitas dan ketersediaan.
• Klien mengakses IP virtual; penyeimbang memilih server di sisi belakang.
• Algoritmenya mencakup round robin, koneksi paling sedikit, dan berbobot.
• Pemeriksaan kesehatan menghapus server yang gagal; persistensi mempertahankan sesi agar tetap melekat.
• Lapisan 4 berbeda dari Lapisan 7; penyeimbang itu sendiri dibuat redundan.