0Pricing
LLM Apps in Production (RAG + Vector DB + Caching) · Leçon

Ingénierie des prompts et fenêtres de contexte

Comprenez la fenêtre de contexte qui limite chaque appel de LLM et apprenez à rédiger des prompts réunissant le contexte récupéré, les instructions et les questions pour obtenir des réponses fiables en production.

Ingénierie des prompts et fenêtres de contexte est une leçon LLM Apps in Production (RAG + Vector DB + Caching) gratuite sur CoddyKit. Ceci est la leçon 4 sur 4. Tu peux lire la leçon complète ci-dessous gratuitement — puis la pratiquer en direct dans le navigateur avec un éditeur de code intégré et un tuteur IA 24/7. Elle fait partie du parcours d'apprentissage LLM Apps in Production (RAG + Vector DB + Caching), et ta progression se synchronise sur le web et l'application CoddyKit. Le cours LLM Apps in Production (RAG + Vector DB + Caching) comprend 4 leçons au total.

Certaines parties de cette leçon n'ont pas encore été traduites et s'affichent en anglais.

The Context Window

Every LLM has a fixed context window — the max tokens it reads and writes per call. System prompt, retrieved docs, history, and your question all have to fit.

What Lives in the Window

A production RAG prompt packs in system instructions, retrieved context, prior history, and the current question. Exceed the window and something gets cut.

Anatomy of a Prompt

A clear prompt structure helps the model tell instructions apart from data. Here's a clean layout separating context from the question.

prompt = (
    'You are a support assistant. '
    'Answer ONLY from the context.\n\n'
    'Context:\n{context}\n\n'
    'Question: {question}'
)

Grounding Instructions

To cut hallucination, add grounding instructions: tell the model to answer only from the provided context and to admit when it doesn't know.

rule = 'If the answer is not in the context, say you do not know.'

Using a Prompt Template

A prompt template makes prompts reusable and safe to fill with variables. LangChain's ChatPromptTemplate does exactly this.

from langchain_core.prompts import ChatPromptTemplate

template = ChatPromptTemplate.from_messages([
    ('system', 'Answer only from context: {context}'),
    ('human', '{question}')
])

Counting Tokens

Before sending, count tokens so you don't overflow the window. Rough rule for English: about 4 characters per token.

import tiktoken
enc = tiktoken.get_encoding('cl100k_base')
print(len(enc.encode(filled_prompt)))

When Context Is Too Big

When context is too big, shrink it: fewer chunks, smaller chunk sizes, or summarize. Never silently truncate the middle — you might drop the answer.

The Lost-in-the-Middle Effect

Watch the lost-in-the-middle effect: models attend best to the start and end of context, worst to the middle. Put your most relevant chunks first or last.

Reserving Output Space

Input and output share the window. Fill it all with input and there's no room to generate — so reserve output space for the expected answer length.

max_output = 800
budget_for_input = WINDOW - max_output

Few-Shot Examples

A few few-shot examples can steer format and tone, but they eat tokens. Weigh their value against the space they consume.

Iterating on Prompts

Prompt engineering is empirical: change one thing at a time, test on real questions, and measure. Small wording tweaks can shift answer quality a lot.

Quick Check

Test your understanding of context windows.

Recap

Recap: the context window holds system, context, history, question, and output. Structure prompts, ground them, count tokens, beat lost-in-the-middle, and reserve output room.

Questions Fréquemment Posées

La leçon « Ingénierie des prompts et fenêtres de contexte » est-elle gratuite ?

Oui — le texte complet de « Ingénierie des prompts et fenêtres de contexte » est gratuit à lire ici sur le web. Pour la pratiquer de manière interactive (un éditeur de code intégré et un tuteur IA 24/7) et déverrouiller le reste du cours LLM Apps in Production (RAG + Vector DB + Caching), passe à CoddyKit PRO. Le cours LLM Apps in Production (RAG + Vector DB + Caching) comprend 4 leçons au total.

Qu'est-ce que j'apprendrai dans « Ingénierie des prompts et fenêtres de contexte » ?

Comprenez la fenêtre de contexte qui limite chaque appel de LLM et apprenez à rédiger des prompts réunissant le contexte récupéré, les instructions et les questions pour obtenir des réponses fiables… Tu pratiques LLM Apps in Production (RAG + Vector DB + Caching) avec du code pratique que tu exécutes directement dans le navigateur, et un tuteur IA 24/7 répond à tes questions au fur et à mesure que tu avances dans la leçon.

Dois-je avoir de l'expérience pour commencer LLM Apps in Production (RAG + Vector DB + Caching) ?

Aucune expérience préalable n'est requise. LLM Apps in Production (RAG + Vector DB + Caching) sur CoddyKit est structuré pour les débutants jusqu'aux apprenants avancés, donc tu peux commencer ici ou depuis le début et avancer à ton rythme. Ceci est la leçon 4 sur 4.

Combien de temps prend la leçon « Ingénierie des prompts et fenêtres de contexte » ?

La plupart des leçons CoddyKit prennent environ 5–10 minutes. Chacune est courte et interactive, tu progresses régulièrement et tu repiques exactement où tu t'es arrêté sur le web et l'app.

Peux-tu écrire et exécuter du code dans cette leçon LLM Apps in Production (RAG + Vector DB + Caching) ?

Oui. Chaque leçon LLM Apps in Production (RAG + Vector DB + Caching) inclut un éditeur de code intégré, tu écris et exécutes du vrai code directement dans ton navigateur et tu reçois des retours IA instantanés — aucune configuration locale requise.

Toutes les leçons de ce cours

  1. Comprendre les applications de LLM en production
  2. Fondamentaux de la génération augmentée par la recherche
  3. Présentation de l’architecture d’un système RAG de base
  4. Ingénierie des prompts et fenêtres de contexte
← Retour à LLM Apps in Production (RAG + Vector DB + Caching)