Pengimbangan Beban dan Ketersediaan Tinggi

Aplikasi masa nyata moden seperti aplikasi sembang atau papan pemuka langsung perlu mengendalikan ramai pengguna tanpa menjadi perlahan atau terhenti. Pelajaran ini meneroka dua konsep penting untuk mencapainya: Pengimbangan Beban dan Ketersediaan Tinggi.

Strategi ini memastikan aplikasi WebSocket anda boleh berkembang mengikut permintaan dan kekal dalam talian walaupun sebahagian sistem mengalami kegagalan.

Pengimbangan Beban ialah proses mengagihkan trafik rangkaian masuk merentas beberapa pelayan dengan cekap. Bayangkan sebuah restoran yang sibuk dengan ramai cef – pengimbang beban ibarat maître d', yang mengarahkan pelanggan baharu kepada cef yang paling kurang sibuk.

• Mengelakkan mana-mana pelayan tunggal menjadi kesesakan.
• Meningkatkan tindak balas dan prestasi aplikasi.
• Membolehkan penskalaan mendatar dengan menambah lebih banyak pelayan.

WebSocket mengekalkan sambungan berterusan, tidak seperti permintaan HTTP yang berjangka hayat pendek. Hal ini memerlukan perhatian khusus daripada pengimbang beban. Satu konsep penting ialah keaffinan sesi (atau "sesi melekat").

Keaffinan sesi memastikan bahawa selepas klien mewujudkan sambungan WebSocket dengan tika pelayan tertentu, semua mesej seterusnya untuk sambungan tersebut dihalakan kepada pelayan yang sama. Ini amat penting untuk aplikasi berkeadaan.

Nginx ialah pilihan popular untuk proksi terbalik dan pengimbangan beban WebSocket. Berikut ialah petikan konfigurasi yang dipermudah. Perhatikan pengepala Upgrade dan Connection, yang penting untuk jabat tangan WebSocket.

http {
  upstream websocket_servers {
    server backend1.example.com;
    server backend2.example.com;
  }

  server {
    listen 80;
    server_name your_domain.com;

    location /ws {
      proxy_pass http://websocket_servers;
      proxy_http_version 1.1;
      proxy_set_header Upgrade $http_upgrade;
      proxy_set_header Connection "upgrade";
      proxy_read_timeout 86400s;
    }
  }
}

Konfigurasi ini menghalakan trafik WebSocket (/ws) kepada salah satu pelayan bahagian belakang yang menjalankan aplikasi Spring anda.

Ketersediaan Tinggi (HA) bermaksud mereka bentuk dan melaksanakan sistem yang beroperasi secara berterusan tanpa kegagalan untuk tempoh yang panjang. Bagi aplikasi masa nyata, gangguan bermakna pengguna kehilangan sambungan dan kemas kini masa nyata.

HA bertujuan meminimumkan masa henti, yang sering diukur dalam "sembilan" (contohnya, masa operasi 99.9%). Hal ini dicapai melalui lebihan dan pemulihan pantas daripada kegagalan.

Strategi HA yang paling asas ialah lebihan. Daripada menjalankan satu tika pelayan WebSocket, anda menjalankan beberapa tika yang serupa. Jika satu tika gagal, tika lain boleh mengambil alih.

Ini berfungsi seiring dengan pengimbangan beban. Pengimbang beban boleh mengesan tika yang tidak sihat dan berhenti menghantar trafik kepadanya, lalu menghalakannya kepada tika yang sihat.

Pemindahan sandaran ialah proses menukar secara automatik kepada sistem lebihan atau siap siaga apabila sistem utama gagal atau ditamatkan secara tidak normal. Bagi WebSocket, ini bermaksud mengubah hala sambungan klien.

• Aktif-Pasif: Satu pelayan aktif, manakala yang lain bersiap siaga.
• Aktif-Aktif: Semua pelayan aktif dan berkongsi beban.

Persekitaran awan moden dan pengimbang beban sering mengurus pemindahan sandaran secara automatik berdasarkan pemeriksaan kesihatan.

Pemeriksaan kesihatan ialah ujian automatik yang dijalankan oleh pengimbang beban atau sistem pemantauan untuk menentukan sama ada tika pelayan beroperasi dengan betul. Jika tika gagal dalam pemeriksaan kesihatan, tika tersebut ditandakan sebagai tidak sihat dan dikeluarkan daripada kumpulan pelayan yang tersedia.

Bagi aplikasi Spring WebSocket, anda boleh mendedahkan titik akhir HTTP ringkas (contohnya, /actuator/health) yang boleh diperiksa secara berkala oleh pengimbang beban.

Penyedia awan menawarkan perkhidmatan pengimbangan beban dan HA terurus, sekali gus memudahkan penggunaan. Contohnya termasuk AWS Elastic Load Balancer (ELB) dan Google Cloud Load Balancing.

• Perkhidmatan ini mengendalikan pemeriksaan kesihatan dan pemindahan sandaran secara automatik.
• Perkhidmatan ini diskalakan secara anjal untuk memenuhi permintaan trafik.
• Perkhidmatan ini sering bersepadu dengan perkhidmatan awan lain seperti kumpulan penskalaan automatik.

Perkhidmatan ini sesuai untuk menggunakan aplikasi Spring WebSocket yang boleh diskalakan dan mempunyai ketersediaan tinggi.

Kita telah mempelajari cara Pengimbangan Beban mengagihkan trafik merentas beberapa tika pelayan untuk meningkatkan prestasi dan membolehkan penskalaan. Kita juga meneroka strategi Ketersediaan Tinggi seperti lebihan, pemindahan sandaran dan pemeriksaan kesihatan bagi memastikan perkhidmatan berterusan untuk aplikasi masa nyata anda.

Dengan menggabungkan teknik ini, anda boleh membina perkhidmatan Spring WebSocket yang teguh dan boleh diskalakan, serta bersedia untuk persekitaran pengeluaran.