RabbitMQ Messaging & Async Systems · Leçon

Déduplication des messages et extensions d’échange par hachage cohérent

Découvrez deux extensions RabbitMQ pratiques : l’échange par hachage cohérent pour répartir la charge et les stratégies de déduplication qui maintiennent un traitement exactement une fois.

Leçon 4 sur 413 étapes

Déduplication des messages et extensions d’échange par hachage cohérent est une leçon RabbitMQ Messaging & Async Systems gratuite sur CoddyKit. Ceci est la leçon 4 sur 4. Tu peux lire la leçon complète ci-dessous gratuitement — puis la pratiquer en direct dans le navigateur avec un éditeur de code intégré et un tuteur IA 24/7. Elle fait partie du parcours d'apprentissage RabbitMQ Messaging & Async Systems, et ta progression se synchronise sur le web et l'application CoddyKit. Le cours RabbitMQ Messaging & Async Systems comprend 4 leçons au total.

Certaines parties de cette leçon n'ont pas encore été traduites et s'affichent en anglais.

Beyond Built-in Exchanges

RabbitMQ plugins extend the broker with new exchange types and behaviors. Two useful ones are the consistent hash exchange and message deduplication plugins.

The Load Distribution Problem

Fanout broadcasts to all queues; direct sends to matched queues. Neither evenly spreads a stream across a set of queues by a key.

The consistent hash exchange solves this.

Enabling the Plugin

Enable the plugin on the broker before use.

rabbitmq-plugins enable rabbitmq_consistent_hash_exchange

Declaring the Exchange

Declare an exchange of type x-consistent-hash.

channel.exchange_declare(
    exchange='shards',
    exchange_type='x-consistent-hash'
)

Binding With Weights

Bind queues with a numeric weight as the binding key. Higher weight means a larger share of the hash ring.

channel.queue_bind(queue='shard-1', exchange='shards', routing_key='10')
channel.queue_bind(queue='shard-2', exchange='shards', routing_key='10')

How Hashing Distributes

The exchange hashes each message's routing key and maps it onto the ring, sending it to one bound queue. The same key always lands on the same queue, giving sticky distribution.

Use Cases for Hashing

  • Sharding work by customer or entity id
  • Keeping per-key ordering across parallel workers
  • Even load spread without manual partitioning

The Duplicate Delivery Problem

RabbitMQ guarantees at-least-once delivery, so retries can cause duplicates. Deduplication ensures the same logical message is processed once.

Deduplication Plugin

The community deduplication plugin adds an exchange that drops messages carrying a recently seen deduplication header within a TTL window.

props = pika.BasicProperties(headers={'x-deduplication-header': 'order-42'})

Plugin vs Application Dedup

The plugin is convenient but bounded by its cache window. For strong guarantees, also store processed ids in your application database as a backstop.

Operational Notes

  • Plugins must be enabled on every node in a cluster
  • Verify version compatibility with your broker
  • Test failover behavior before relying on it

Quick Check

Test your plugin knowledge.

Recap

The consistent hash exchange distributes a message stream evenly and stickily across queues by hashing the routing key, while deduplication plugins drop repeated messages within a cache window.

Enable plugins on all cluster nodes and back deduplication with application-level checks for strong guarantees.

Gratuit pour commencer

Apprends RabbitMQ Messaging & Async Systems avec un tuteur IA — gratuit

Écris et exécute du vrai code dans ton navigateur, obtiens de l'aide instantanée d'un tuteur IA disponible 24h/24, et reprends là où tu t'es arrêté sur le web ou dans l'app.

Cours
11
Leçons
44

Questions Fréquemment Posées

La leçon « Déduplication des messages et extensions d’échange par hachage cohérent » est-elle gratuite ?

Oui — le texte complet de « Déduplication des messages et extensions d’échange par hachage cohérent » est gratuit à lire ici sur le web. Pour la pratiquer de manière interactive (un éditeur de code intégré et un tuteur IA 24/7) et déverrouiller le reste du cours RabbitMQ Messaging & Async Systems, passe à CoddyKit PRO. Le cours RabbitMQ Messaging & Async Systems comprend 4 leçons au total.

Qu'est-ce que j'apprendrai dans « Déduplication des messages et extensions d’échange par hachage cohérent » ?

Découvrez deux extensions RabbitMQ pratiques : l’échange par hachage cohérent pour répartir la charge et les stratégies de déduplication qui maintiennent un traitement exactement une fois. Tu pratiques RabbitMQ Messaging & Async Systems avec du code pratique que tu exécutes directement dans le navigateur, et un tuteur IA 24/7 répond à tes questions au fur et à mesure que tu avances dans la leçon.

Dois-je avoir de l'expérience pour commencer RabbitMQ Messaging & Async Systems ?

Aucune expérience préalable n'est requise. RabbitMQ Messaging & Async Systems sur CoddyKit est structuré pour les débutants jusqu'aux apprenants avancés, donc tu peux commencer ici ou depuis le début et avancer à ton rythme. Ceci est la leçon 4 sur 4.

Combien de temps prend la leçon « Déduplication des messages et extensions d’échange par hachage cohérent » ?

La plupart des leçons CoddyKit prennent environ 5–10 minutes. Chacune est courte et interactive, tu progresses régulièrement et tu repiques exactement où tu t'es arrêté sur le web et l'app.

Peux-tu écrire et exécuter du code dans cette leçon RabbitMQ Messaging & Async Systems ?

Oui. Chaque leçon RabbitMQ Messaging & Async Systems inclut un éditeur de code intégré, tu écris et exécutes du vrai code directement dans ton navigateur et tu reçois des retours IA instantanés — aucune configuration locale requise.

Toutes les leçons de ce cours

  1. Module des messages différés
  2. Module Shovel pour la fédération
  3. Module Federation pour la mise en cluster
  4. Déduplication des messages et extensions d’échange par hachage cohérent
← Retour à RabbitMQ Messaging & Async Systems