Backpressure

La backpressure è un meccanismo di controllo del flusso che impedisce a un produttore veloce di sovraccaricare un consumatore lento. Invece di usare un buffering illimitato o di scartare i dati, il consumatore segnala quanti dati è in grado di gestire.

Akka Streams implementa lo standard Reactive Streams, in cui la richiesta fluisce a monte e gli elementi fluiscono a valle.

Ogni stage emette dati solo quando lo stage successivo ha segnalato una richiesta. Un Sink richiede N elementi; la richiesta si propaga a monte finché un Source produce esattamente quanto richiesto.

Questo protocollo basato sul pull fa sì che i produttori non inviino mai più dati di quanti i consumatori possano elaborare.

Senza backpressure, un consumatore Kafka veloce che alimenta un database lento accumulerebbe milioni di record in elaborazione, esaurendo la memoria e causando il crash del processo.

La backpressure limita naturalmente la velocità dello stream a monte in base allo stage più lento, mantenendo stabile l'uso della memoria sotto carico.

Tra i confini asincroni, Akka Streams mantiene un piccolo buffer interno (16 elementi per impostazione predefinita). Questo assorbe i picchi brevi, evitando che gli stage debbano procedere in perfetta sincronia per ogni elemento.

Quando il buffer si riempie, entra in azione la backpressure e lo stream a monte smette di produrre finché non si libera spazio.

L'operatore buffer inserisce un buffer esplicito di dimensione scelta, con una OverflowStrategy che decide cosa fare quando il buffer è pieno.

In questo modo è possibile scambiare memoria con la possibilità di disaccoppiare la velocità del produttore da quella del consumatore.

Le strategie includono backpressure (rallenta lo stream a monte), dropHead/dropTail (scarta rispettivamente l'elemento più vecchio o quello più recente), dropBuffer, dropNew e fail (termina con un errore).

Le strategie di scarto sono adatte ai dati in tempo reale, come le letture dei sensori, per i quali è possibile eliminare senza rischi i valori obsoleti.

Quando un consumatore è lento, conflate unisce gli elementi in attesa in un unico elemento usando una funzione di combinazione, invece di inserirli tutti nel buffer.

Ad esempio, può condensare molti aggiornamenti numerici nella loro somma, così il consumatore vede sempre un aggregato di ciò che non ha elaborato.

expand è il duale di conflate: quando lo stream a valle richiede dati più velocemente di quanto lo stream a monte li produca, genera elementi aggiuntivi a partire dall'ultimo valore osservato.

È utile per continuare a emettere la lettura più recente a una frequenza costante.

Per impostazione predefinita, gli stage fusi vengono eseguiti su un unico actor, senza buffering tra loro. Inserire async colloca uno stage su un actor dedicato, aggiungendo un buffer e abilitando il parallelismo in pipeline.

È ai confini asincroni che risiedono effettivamente i buffer della backpressure.

throttle impone una frequenza massima deliberata, generando backpressure a monte per rispettarla. In questo modo protegge i servizi esterni soggetti a limiti di frequenza, anche quando il consumatore potrebbe procedere più velocemente.

Un parametro di burst consente brevi picchi superiori alla frequenza normale.

È possibile rilevare la backpressure osservando i rallentamenti a monte o misurando l'occupazione del buffer. L'operatore log e gli attributi degli stream di Akka aiutano a individuare il punto in cui una pipeline si arresta.

Un buffer costantemente pieno indica lo stage più lento, che limita il throughput.

Rifletta su come Akka Streams impedisce a un produttore veloce di sommergere un consumatore lento.

La backpressure è l'elemento portante di Akka Streams, basato sulla richiesta: i consumatori segnalano la richiesta a monte, così i produttori non possono sovraccaricarli e la memoria rimane sotto controllo.

Ha visto i buffer interni, l'operatore buffer esplicito con le strategie di overflow, il riepilogo con conflate, il soddisfacimento della richiesta con expand, i confini asincroni e il controllo deliberato della frequenza tramite throttle. Ora eseguirà una pipeline completa.