Построение систем на основе событий с Kafka
Реализуйте архитектуры на основе источника событий с помощью Kafka для создания устойчивых и проверяемых систем.
«Построение систем на основе событий с Kafka» — бесплатный урок Apache Kafka & Stream Processing Fundamentals на CoddyKit. Это урок 1 из 4. Ты можешь прочитать весь урок бесплатно ниже — а потом практиковать его прямо в браузере с встроенным редактором кода и ИИ-репетитором 24/7. Это часть пути обучения Apache Kafka & Stream Processing Fundamentals, и твой прогресс синхронизируется между веб-версией и приложением CoddyKit. Курс Apache Kafka & Stream Processing Fundamentals содержит 4 уроков всего.
Части этого урока еще не переведены и отображаются на английском.
What is Event Sourcing?
Event Sourcing is an architectural pattern where all changes to application state are stored as a sequence of immutable events.
Instead of just storing the current state of an entity, you store every single action that led to that state. Think of it like a ledger in accounting.
This means your database doesn't just hold the 'current version' of data, but a complete, ordered history of every change.
Why Use Event Sourcing?
Event Sourcing offers several compelling benefits for modern applications:
- Full Audit Trail: You get a complete, unalterable history of everything that happened.
- Debugging & Analysis: Easily replay events to understand issues or analyze past behavior.
- Temporal Queries: Reconstruct state at any point in time.
- Resilience: If a read model fails, you can rebuild it by replaying events.
Core Event Sourcing Concepts
Let's define the main components:
- Events: Immutable facts describing something that has happened in the past (e.g.,
OrderPlaced,ItemAdded). - Event Store: A database that stores these events chronologically. It's the single source of truth.
- State Reconstruction: The process of reading and applying events from the store to build an entity's current state or a read-optimized view.
Kafka as the Event Store
Apache Kafka is an excellent choice for an event store due to its core features:
- Distributed Log: Kafka topics are essentially durable, ordered, and immutable logs of events.
- High Throughput: It can handle massive volumes of events efficiently.
- Durability: Events are replicated across brokers, ensuring fault tolerance.
- Scalability: Easily scales to accommodate growing event streams.
Kafka provides the perfect backbone for storing and distributing events in an event-sourced system.
Designing Your Events
Events are the heart of event sourcing. Good event design is crucial:
- Immutability: Once an event is created, it should never change.
- Fact-based: Describe a past occurrence, not a command or future action.
- Rich Data: Include all necessary data for future interpretation, as you can't easily query the 'current state'.
- Past Tense Naming: Use names like
UserCreated,ProductPriceUpdated.
Events should be self-contained and easily serializable (e.g., JSON, Avro).
Producing Events to Kafka
Here's how you might send a simple UserCreated event to a Kafka topic named user_events. This event represents a fact that a user was created.
Try running this example:
import org.apache.kafka.clients.producer.*;
import org.apache.kafka.common.serialization.StringSerializer;
import java.util.Properties;
public class EventProducer {
public static void main(String[] args) {
Properties props = new Properties();
props.put("bootstrap.servers", "localhost:9092");
props.put("key.serializer", StringSerializer.class.getName());
props.put("value.serializer", StringSerializer.class.getName());
try (Producer<String, String> producer = new KafkaProducer<>(props)) {
String topic = "user_events";
String key = "user-123";
String value = "{\"type\":\"UserCreated\",\"id\":\"user-123\"}";
ProducerRecord<String, String> record = new ProducerRecord<>(topic, key, value);
producer.send(record).get();
System.out.println("Event sent: " + value);
} catch (Exception e) {
e.printStackTrace();
}
}
}Consuming Events for State
Consumers read events from Kafka topics to build or update their read models (projections) or reconstruct the current state of an entity. They apply events in order.
This example shows a consumer listening for events on the user_events topic:
import org.apache.kafka.clients.consumer.*;
import org.apache.kafka.common.serialization.StringDeserializer;
import java.time.Duration;
import java.util.Collections;
import java.util.Properties;
public class EventConsumer {
public static void main(String[] args) {
Properties props = new Properties();
props.put("bootstrap.servers", "localhost:9092");
props.put("group.id", "event_sourcing_group");
props.put("key.deserializer", StringDeserializer.class.getName());
props.put("value.deserializer", StringDeserializer.class.getName());
props.put("auto.offset.reset", "earliest");
try (Consumer<String, String> consumer = new KafkaConsumer<>(props)) {
consumer.subscribe(Collections.singletonList("user_events"));
System.out.println("Polling for events...");
ConsumerRecords<String, String> records = consumer.poll(Duration.ofSeconds(5));
for (ConsumerRecord<String, String> record : records) {
System.out.println("Processed event: " + record.value());
}
consumer.commitSync();
} catch (Exception e) {
e.printStackTrace();
}
}
}Advantages with Kafka ES
Combining Event Sourcing with Kafka brings powerful advantages:
- Decoupling: Producers and consumers are independent, communicating only via events.
- Event Replay: Easily rebuild or create new read models by replaying historical events.
- Real-time Analytics: Leverage Kafka Streams or KSQL to process events in real-time for immediate insights.
- Scalability: Handle high data volumes and numerous consumers without impacting performance.
Challenges & Considerations
While powerful, Event Sourcing with Kafka also has challenges:
- Event Versioning: How do you handle changes to event structures over time? Migration strategies are needed.
- Eventual Consistency: Read models are built asynchronously, so queries might reflect a slightly older state.
- Complexity: Can be more complex than traditional CRUD for simple applications.
- Data Privacy: Deleting data (e.g., GDPR) requires careful design, as events are immutable.
Quick Check: Event Sourcing
Which of the following is a key characteristic of an event in Event Sourcing?
Recap: Event Sourcing with Kafka
In this lesson, you've learned about Event Sourcing, an architecture where all state changes are stored as an ordered sequence of immutable events.
Kafka acts as an ideal, scalable, and durable event store, enabling you to build resilient and auditable systems. We explored how to design events and saw simple Java examples for producing and consuming them.
Understanding these patterns is crucial for building robust, real-time data platforms.
Часто задаваемые вопросы
Урок «Построение систем на основе событий с Kafka» бесплатный?
Да — полный текст урока «Построение систем на основе событий с Kafka» бесплатно доступен здесь в веб-версии. Чтобы практиковать его интерактивно (встроенный редактор кода и ИИ-репетитор 24/7) и разблокировать остальной курс Apache Kafka & Stream Processing Fundamentals, подпишись на CoddyKit PRO. Курс Apache Kafka & Stream Processing Fundamentals содержит 4 уроков всего.
Чему я научусь в уроке «Построение систем на основе событий с Kafka»?
Реализуйте архитектуры на основе источника событий с помощью Kafka для создания устойчивых и проверяемых систем. Ты практикуешь Apache Kafka & Stream Processing Fundamentals с помощью реального кода, который запускаешь прямо в браузере, и ИИ-репетитор 24/7 отвечает на твои вопросы во время урока.
Нужен ли мне опыт, чтобы начать Apache Kafka & Stream Processing Fundamentals?
Предыдущий опыт не требуется. Apache Kafka & Stream Processing Fundamentals на CoddyKit структурирован для всех уровней — от новичков до продвинутых, поэтому ты можешь начать отсюда или с самого начала и учиться в своем темпе. Это урок 1 из 4.
Сколько времени занимает урок «Построение систем на основе событий с Kafka»?
Большинство уроков CoddyKit занимают около 5–10 минут. Каждый из них компактный и интерактивный, поэтому ты постоянно делаешь прогресс и продолжаешь с того же места в веб-версии и приложении.
Можно ли писать и запускать код в этом уроке Apache Kafka & Stream Processing Fundamentals?
Да. Каждый урок Apache Kafka & Stream Processing Fundamentals включает встроенный редактор кода, поэтому ты пишешь и запускаешь реальный код прямо в браузере и получаешь моментальную обратную связь от AI — локальная установка не требуется.
Все уроки этого курса
- Построение систем на основе событий с Kafka
- Захват изменений данных (CDC)
- Шаблоны взаимодействия микросервисов
- Шаблон исходящего журнала для надёжной публикации событий