Prompt Engineering & LLM Optimization for Developers · レッスン

エージェントのメモリと状態管理

LLMエージェントに永続メモリと状態管理の仕組みを実装し、長期的な会話や複雑なタスクの連続実行を可能にします。

レッスン 2/411 ステップ

「エージェントのメモリと状態管理」はCoddyKit上の無料Prompt Engineering & LLM Optimization for Developersレッスンです。 これはレッスン2/4です。 下記で完全なレッスンを無料で読むことができます。その後、ブラウザ内の組み込みコードエディタと24時間対応のAIチューターでハンズオン演習できます。 これはPrompt Engineering & LLM Optimization for Developers学習パスの一部であり、ウェブとCoddyKitアプリ全体で進捗が同期されます。 Prompt Engineering & LLM Optimization for Developersコースには全4レッスンが含まれています。

このレッスンの一部はまだ翻訳されておらず、英語で表示されています。

Agents Need Memory

LLM agents are designed to perform complex tasks. But by default, LLMs are stateless! This means they don't "remember" past interactions.

For an agent to have a meaningful conversation or complete multi-step tasks, it needs a way to recall previous information. This is where memory comes in.

Short & Long-Term Memory

Agent memory can be categorized into two main types:

  • Short-Term Memory: This is like a human's working memory. It holds recent, relevant information for immediate use, often the raw conversation history.
  • Long-Term Memory: Stores information over extended periods, like past conversations or learned facts. It helps agents retain knowledge beyond the current interaction.

Conversational Buffer Memory

The simplest form of short-term memory for an agent is a conversational buffer. It stores the raw exchange of messages between the user and the agent.

When generating a new response, the agent is prompted with the entire buffer, allowing it to maintain context for the current turn.

Basic Chat Buffer Demo

Here's a simple Python example simulating a conversational buffer. Each new message is added to a list that represents the agent's memory.

class AgentMemory:
    def __init__(self):
        self.history = []

    def add_message(self, role, content):
        self.history.append(f"{role}: {content}")

    def get_history(self):
        return "\n".join(self.history)

# Simulate agent interaction
memory = AgentMemory()
memory.add_message("User", "Hi, what's the weather like?")
memory.add_message("Agent", "It's sunny today.")
memory.add_message("User", "What about tomorrow?")

print("Current conversation history:")
print(memory.get_history())

Summarizing for Long-Term

Raw conversation buffers grow quickly, hitting LLM context window limits and increasing costs. Summarization is a key technique for long-term memory.

Instead of sending the full history, we periodically summarize older parts of the conversation, keeping the key points while discarding verbose details.

Summarized Memory Concept

This example shows how a summary might be generated and used. In a real application, an LLM would create the summary, but here we simulate it.

class AgentMemory:
    def __init__(self):
        self.buffer = []
        self.summary = "No previous conversation."

    def add_message(self, role, content):
        self.buffer.append(f"{role}: {content}")
        # In a real app, trigger LLM summarization here
        if len(self.buffer) > 4: # Example threshold
            self.summarize_buffer()

    def summarize_buffer(self):
        # Simulate LLM summarizing the buffer
        old_messages = "\n".join(self.buffer[:-2])
        new_summary = f"Summary of past: {old_messages[:30]}..."
        self.summary = new_summary
        self.buffer = self.buffer[-2:] # Keep recent messages

    def get_full_context(self):
        return f"Previous summary: {self.summary}\n" + \
               "\n".join(self.buffer)

memory = AgentMemory()
memory.add_message("User", "Tell me about your capabilities.")
memory.add_message("Agent", "I can answer questions.")
memory.add_message("User", "Can you write code?")
memory.add_message("Agent", "Yes, in Python.")
memory.add_message("User", "What about Java?") # This triggers summary
memory.add_message("Agent", "I can try some Java.")

print("Agent's current context:")
print(memory.get_full_context())

Agent Task State

Beyond just remembering conversation, agents need to manage state to complete multi-step tasks. This means tracking progress, decisions made, and information collected.

Think of it like a checklist or a finite state machine for the agent's goal. For example, booking a flight requires knowing source, destination, and dates.

Flight Booking State Example

Consider an agent helping book a flight. Its internal state might include:

  • Status: "collecting_info", "searching_flights", "booking_confirmed"
  • Departure City: "London"
  • Destination City: "Paris"
  • Departure Date: "2024-12-25"
  • Number of Passengers: "1"

The agent updates this state as it gathers information from the user.

Memory & State Challenges

Managing agent memory and state introduces several key challenges:

  • Context Window Limits: How much information can the LLM process at once?
  • Cost: Longer contexts mean more tokens and higher API costs.
  • Retrieval: For very long-term memory (e.g., a knowledge base), how does the agent efficiently find the most relevant past information?
  • Consistency: Ensuring the agent's state accurately reflects the task's progress and collected data.

Memory Check

Let's check your understanding of agent memory and state management techniques.

Recap: Memory & State

In this lesson, we explored how memory and state are essential for LLM agents to engage in long-term conversations and complete complex tasks.

  • We covered short-term conversational buffers and long-term summarization techniques.
  • We also looked at how state management helps agents track progress through multi-step processes.

These techniques are fundamental for building truly capable and persistent AI agents.

無料で開始

AI チューターと学ぶ Prompt Engineering & LLM Optimization for Developers — 無料

ブラウザでリアルコードを書いて実行し、24/7 の AI チューターから瞬時にサポートを受け、ウェブまたはアプリで続きから学習できます。

コース
12
レッスン
48

よくある質問

「エージェントのメモリと状態管理」レッスンは無料ですか?

はい。「エージェントのメモリと状態管理」の完全なテキストはこのウェブで無料で読めます。インタラクティブに演習し(組み込みコードエディタと24時間対応のAIチューター)、Prompt Engineering & LLM Optimization for Developersコースの残りをアンロックするには、CoddyKit PROにアップグレードしてください。 Prompt Engineering & LLM Optimization for Developersコースには全4レッスンが含まれています。

「エージェントのメモリと状態管理」で何を学びますか?

LLMエージェントに永続メモリと状態管理の仕組みを実装し、長期的な会話や複雑なタスクの連続実行を可能にします。 ブラウザで直接実行するハンズオンコードでPrompt Engineering & LLM Optimization for Developersを演習し、24時間対応のAIチューターがレッスンを進める中での質問に答えます。

Prompt Engineering & LLM Optimization for Developersを始めるのに経験は必要ですか?

事前経験は必要ありません。CoddyKitのPrompt Engineering & LLM Optimization for Developersは初級者から上級者向けに構成されているため、ここから始めるか最初から始めて、自分のペースで進むことができます。 これはレッスン2/4です。

「エージェントのメモリと状態管理」レッスンにはどのくらい時間がかかりますか?

ほとんどのCoddyKitレッスンは約5~10分かかります。各レッスンはコンパクトでインタラクティブなので、着実に進歩し、ウェブとアプリ全体で正確に前回の場所から再開できます。

このPrompt Engineering & LLM Optimization for Developersレッスンでコードを書いて実行できますか?

はい。すべてのPrompt Engineering & LLM Optimization for Developersレッスンに組み込みコードエディタが含まれているため、ブラウザでリアルコードを書いて実行し、即座のAIフィードバックを取得できます。ローカル設定は不要です。

このコースのすべてのレッスン

  1. マルチエージェントシステムの設計
  2. エージェントのメモリと状態管理
  3. 自律型ワークフローの自動化
  4. エージェントのリフレクションと自己修正ループ
← Prompt Engineering & LLM Optimization for Developersに戻る