Apache Kafka & Stream Processing Fundamentals · Leçon

Jointures et agrégations dans les flux

Effectuez des jointures complexes entre des flux et des tables, puis agrégez les données pour en tirer des informations utiles en temps réel.

Leçon 2 sur 411 étapes

Jointures et agrégations dans les flux est une leçon Apache Kafka & Stream Processing Fundamentals gratuite sur CoddyKit. Ceci est la leçon 2 sur 4. Tu peux lire la leçon complète ci-dessous gratuitement — puis la pratiquer en direct dans le navigateur avec un éditeur de code intégré et un tuteur IA 24/7. Elle fait partie du parcours d'apprentissage Apache Kafka & Stream Processing Fundamentals, et ta progression se synchronise sur le web et l'application CoddyKit. Le cours Apache Kafka & Stream Processing Fundamentals comprend 4 leçons au total.

Certaines parties de cette leçon n'ont pas encore été traduites et s'affichent en anglais.

Combining Data Streams

In real-world data processing, you often need to combine information from different sources. Imagine tracking user clicks and matching them with user profiles, or correlating an order with its payment details.

Kafka Streams provides powerful operations to join different data streams (KStreams) and tables (KTables) based on a common key. This allows you to enrich your data and derive more complete insights in real-time.

KStream-KStream Joins

A KStream-KStream join combines records from two KStreams based on their shared key. Since KStreams represent unbounded, continuous event streams, these joins require a time window.

Events from both streams must arrive within this defined time window to be considered for a join.
If an event from one stream arrives outside the window of its matching event in the other stream, they won't be joined.
This is crucial for correlating events that happen close together, like a user clicking an ad and then visiting a product page.

KStream-KStream Join Example

This example demonstrates joining two KStreams, streamA and streamB, using a 10-second time window. Only records with the same key arriving within this window will be combined.

import org.apache.kafka.common.serialization.Serdes;
import org.apache.kafka.streams.KafkaStreams;
import org.apache.kafka.streams.StreamsBuilder;
import org.apache.kafka.streams.StreamsConfig;
import org.apache.kafka.streams.kstream.JoinWindows;
import org.apache.kafka.streams.kstream.KStream;
import java.time.Duration;
import java.util.Properties;

public class StreamStreamJoin {
  public static void main(String[] args) {
    Properties props = new Properties();
    props.put(StreamsConfig.APPLICATION_ID_CONFIG, "stream-join-app");
    props.put(StreamsConfig.BOOTSTRAP_SERVERS_CONFIG, "localhost:9092");
    props.put(StreamsConfig.DEFAULT_KEY_SERDE_CLASS_BY_KEY_CONFIG, Serdes.String().getClass());
    props.put(StreamsConfig.DEFAULT_VALUE_SERDE_CLASS_BY_KEY_CONFIG, Serdes.String().getClass());

    StreamsBuilder builder = new StreamsBuilder();
    KStream<String, String> streamA = builder.stream("topic-A");
    KStream<String, String> streamB = builder.stream("topic-B");

    KStream<String, String> joined = streamA.join(
        streamB,
        (valA, valB) -> "Joined: " + valA + "-" + valB,
        JoinWindows.of(Duration.ofSeconds(10))
    );
    joined.to("joined-topic");

    KafkaStreams streams = new KafkaStreams(builder.build(), props);
    streams.start();
  }
}

KStream-KTable Joins

A KStream-KTable join combines an event stream (KStream) with a materialized view or state table (KTable). This is a very common pattern for data enrichment.

When a new record arrives on the KStream, it's joined with the current state of the KTable for the matching key.
No time window is explicitly needed for the KTable side, as it always represents the latest known state.
Think of it as looking up additional details for an event from a constantly updating database.

KStream-KTable Join Example

Here, a stream of transactions is enriched with data from a user-profiles KTable. Each transaction record gets the latest profile information for its user.

import org.apache.kafka.common.serialization.Serdes;
import org.apache.kafka.streams.KafkaStreams;
import org.apache.kafka.streams.StreamsBuilder;
import org.apache.kafka.streams.StreamsConfig;
import org.apache.kafka.streams.kstream.KStream;
import org.apache.kafka.streams.kstream.KTable;
import java.util.Properties;

public class StreamTableJoin {
  public static void main(String[] args) {
    Properties props = new Properties();
    props.put(StreamsConfig.APPLICATION_ID_CONFIG, "stream-table-join-app");
    props.put(StreamsConfig.BOOTSTRAP_SERVERS_CONFIG, "localhost:9092");
    props.put(StreamsConfig.DEFAULT_KEY_SERDE_CLASS_BY_KEY_CONFIG, Serdes.String().getClass());
    props.put(StreamsConfig.DEFAULT_VALUE_SERDE_CLASS_BY_KEY_CONFIG, Serdes.String().getClass());

    StreamsBuilder builder = new StreamsBuilder();
    KStream<String, String> transactions = builder.stream("transactions");
    KTable<String, String> userProfiles = builder.table("user-profiles");

    KStream<String, String> enrichedTransactions = transactions.join(
        userProfiles,
        (transactionVal, profileVal) -> "Tx: " + transactionVal + ", User: " + profileVal
    );
    enrichedTransactions.to("enriched-transactions");

    KafkaStreams streams = new KafkaStreams(builder.build(), props);
    streams.start();
  }
}

KTable-KTable Joins

A KTable-KTable join combines two materialized views (KTables) based on their shared key. This is similar to joining two constantly updating database tables.

Whenever a record in either KTable is updated, the join operation is re-evaluated for that key.
The output KTable will reflect the combined latest state of the matching records from both input KTables.
This is useful for combining different aspects of an entity, like product pricing and inventory levels.

KTable-KTable Join Example

This code joins product-prices and product-stocks KTables. Any update to a product's price or stock will trigger an update to the joined-products KTable.

import org.apache.kafka.common.serialization.Serdes;
import org.apache.kafka.streams.KafkaStreams;
import org.apache.kafka.streams.StreamsBuilder;
import org.apache.kafka.streams.StreamsConfig;
import org.apache.kafka.streams.kstream.KTable;
import java.util.Properties;

public class TableTableJoin {
  public static void main(String[] args) {
    Properties props = new Properties();
    props.put(StreamsConfig.APPLICATION_ID_CONFIG, "table-table-join-app");
    props.put(StreamsConfig.BOOTSTRAP_SERVERS_CONFIG, "localhost:9092");
    props.put(StreamsConfig.DEFAULT_KEY_SERDE_CLASS_BY_KEY_CONFIG, Serdes.String().getClass());
    props.put(StreamsConfig.DEFAULT_VALUE_SERDE_CLASS_BY_KEY_CONFIG, Serdes.String().getClass());

    StreamsBuilder builder = new StreamsBuilder();
    KTable<String, String> productPrices = builder.table("product-prices");
    KTable<String, String> productStocks = builder.table("product-stocks");

    KTable<String, String> joinedProducts = productPrices.join(
        productStocks,
        (price, stock) -> "Price: " + price + ", Stock: " + stock
    );
    joinedProducts.toStream().to("joined-products");

    KafkaStreams streams = new KafkaStreams(builder.build(), props);
    streams.start();
  }
}

Understanding Aggregations

Aggregations are operations that summarize data from a stream or table over a specific key or time window. Common aggregations include:

Counting: How many events occurred for a key?
Summing: What is the total value for a key?
Averaging: What is the average value for a key?
Reducing: Combining values using a custom logic.

Aggregations are fundamental for building real-time dashboards, metrics, and summary statistics from continuous data streams.

KStream Aggregation Example

This example demonstrates a simple aggregation: counting user events per user ID within 10-second tumbling windows. The groupByKey() and windowedBy() methods are key here.

import org.apache.kafka.common.serialization.Serdes;
import org.apache.kafka.streams.KafkaStreams;
import org.apache.kafka.streams.StreamsBuilder;
import org.apache.kafka.streams.StreamsConfig;
import org.apache.kafka.streams.kstream.KStream;
import org.apache.kafka.streams.kstream.Materialized;
import org.apache.kafka.streams.kstream.TimeWindows;
import java.time.Duration;
import java.util.Properties;

public class StreamAggregation {
  public static void main(String[] args) {
    Properties props = new Properties();
    props.put(StreamsConfig.APPLICATION_ID_CONFIG, "stream-aggregation-app");
    props.put(StreamsConfig.BOOTSTRAP_SERVERS_CONFIG, "localhost:9092");
    props.put(StreamsConfig.DEFAULT_KEY_SERDE_CLASS_BY_KEY_CONFIG, Serdes.String().getClass());
    props.put(StreamsConfig.DEFAULT_VALUE_SERDE_CLASS_BY_KEY_CONFIG, Serdes.String().getClass());

    StreamsBuilder builder = new StreamsBuilder();
    KStream<String, String> userEvents = builder.stream("user-events");

    userEvents
        .groupByKey()
        .windowedBy(TimeWindows.of(Duration.ofSeconds(10)))
        .count(Materialized.as("user-event-counts"))
        .toStream((windowedKey, count) -> windowedKey.key())
        .to("user-event-counts-output");

    KafkaStreams streams = new KafkaStreams(builder.build(), props);
    streams.start();
  }
}

Join & Aggregate Check

Which type of Kafka Streams join is typically used for data enrichment, where an incoming event stream is combined with the latest state of a dataset?

Réponds-y dans la leçon interactive

Joins & Aggregations Summary

You've learned how Kafka Streams allows you to combine and summarize data in powerful ways:

KStream-KStream Joins: Correlate events from two streams within a time window.
KStream-KTable Joins: Enrich stream events with the latest state from a table.
KTable-KTable Joins: Combine two continuously updating materialized views.
Aggregations: Summarize data (e.g., count, sum) over keys and windows to derive real-time insights.

These operations are key to building sophisticated real-time analytics and data processing pipelines with Kafka Streams.

Gratuit pour commencer

Apprends Apache Kafka & Stream Processing Fundamentals avec un tuteur IA — gratuit

Écris et exécute du vrai code dans ton navigateur, obtiens de l'aide instantanée d'un tuteur IA disponible 24h/24, et reprends là où tu t'es arrêté sur le web ou dans l'app.

Cours: 12
Leçons: 48

Commencer gratuitement Voir le cours complet

Questions Fréquemment Posées

La leçon « Jointures et agrégations dans les flux » est-elle gratuite ?

Oui — le texte complet de « Jointures et agrégations dans les flux » est gratuit à lire ici sur le web. Pour la pratiquer de manière interactive (un éditeur de code intégré et un tuteur IA 24/7) et déverrouiller le reste du cours Apache Kafka & Stream Processing Fundamentals, passe à CoddyKit PRO. Le cours Apache Kafka & Stream Processing Fundamentals comprend 4 leçons au total.

Qu'est-ce que j'apprendrai dans « Jointures et agrégations dans les flux » ?

Effectuez des jointures complexes entre des flux et des tables, puis agrégez les données pour en tirer des informations utiles en temps réel. Tu pratiques Apache Kafka & Stream Processing Fundamentals avec du code pratique que tu exécutes directement dans le navigateur, et un tuteur IA 24/7 répond à tes questions au fur et à mesure que tu avances dans la leçon.

Dois-je avoir de l'expérience pour commencer Apache Kafka & Stream Processing Fundamentals ?

Aucune expérience préalable n'est requise. Apache Kafka & Stream Processing Fundamentals sur CoddyKit est structuré pour les débutants jusqu'aux apprenants avancés, donc tu peux commencer ici ou depuis le début et avancer à ton rythme. Ceci est la leçon 2 sur 4.

Combien de temps prend la leçon « Jointures et agrégations dans les flux » ?

La plupart des leçons CoddyKit prennent environ 5–10 minutes. Chacune est courte et interactive, tu progresses régulièrement et tu repiques exactement où tu t'es arrêté sur le web et l'app.

Peux-tu écrire et exécuter du code dans cette leçon Apache Kafka & Stream Processing Fundamentals ?

Oui. Chaque leçon Apache Kafka & Stream Processing Fundamentals inclut un éditeur de code intégré, tu écris et exécutes du vrai code directement dans ton navigateur et tu reçois des retours IA instantanés — aucune configuration locale requise.

Toutes les leçons de ce cours

Opérations de fenêtrage dans Kafka Streams
Jointures et agrégations dans les flux
Introduction à KSQL pour l’analyse des flux
Requêtes interactives et magasins d’état

← Retour à Apache Kafka & Stream Processing Fundamentals