Ce que RAG permet de résoudre (date de connaissance, hallucinations)

Même les meilleurs LLM présentent deux problèmes structurels :

1. Limite des connaissances — ils ne connaissent que ce qui figurait dans leurs données d'entraînement. Si vous demandez à GPT-4 ce qui s'est passé hier, il n'en a aucune idée.
2. Hallucination — lorsque le modèle ne sait pas, il invente des informations avec assurance.

Génération augmentée par récupération (RAG) signifie :

1. Rechercher des segments pertinents dans une base de connaissances
2. Insérer ces segments dans l'invite
3. Demander au LLM de répondre en utilisant ONLY ces segments

Le modèle devient un « lecteur » de connaissances externes au lieu de s'appuyer sur ses poids figés.

Utilisateur : "Quelle est notre politique de retour pour les appareils électroniques ouverts ?"

1. Recherchez dans la KB de l'entreprise « politique de retour appareils électroniques » — récupérez 3 paragraphes des documents d'aide
2. Construisez l'invite : "En vous basant sur le contexte ci-dessous, répondez : ..."
3. Le modèle produit une réponse fidèle accompagnée de références

Pour les connaissances factuelles, RAG est préférable à l'ajustement fin, car :

• Vous pouvez mettre à jour la KB sans réentraînement
• Les données par utilisateur ou par locataire sont séparées sans effort
• Les références sont possibles (vous savez WHICH segment a produit la réponse)
• La maintenance coûte moins cher

Si le modèle reçoit pour instruction de répondre ONLY à partir du contexte fourni et que ce contexte contient la vérité, il a beaucoup plus de chances d'être correct que s'il s'appuie sur sa mémoire.

Ce n'est pas parfait — les modèles inventent encore parfois des informations — mais cela réduit considérablement les hallucinations.

Chaque système RAG comporte trois étapes :

1. Ingestion (hors ligne) — segmenter les documents, les vectoriser, les stocker
2. Recherche (en ligne) — vectoriser la requête, trouver les K meilleurs segments
3. Génération (en ligne) — le LLM produit une réponse à partir des segments trouvés

RAG naïf (prototype en 5 lignes) :

• Segmentation de taille fixe
• Recherche fondée sur un seul vecteur
• Insertion des K meilleurs segments dans l'invite

Le RAG avancé ajoute le reclassement, la reformulation des requêtes, HyDE, la recherche multivecteur et l'évaluation — chaque ajout améliore la qualité, mais accroît aussi la complexité.

• Bases de connaissances et documents d'entreprise
• Assistance client fondée sur un manuel de produit
• Questions-réponses factuelles portant sur des sujets peu fréquents
• Assistants personnels s'appuyant sur les données des utilisateurs

• Conversations informelles simples (aucun fait nécessaire)
• Tâches nécessitant un raisonnement plutôt que des faits
• Lorsque le corpus est suffisamment petit pour tenir de toute façon dans le contexte

Une invite RAG typique ressemble à ceci :

Formatez les segments avec des identifiants de source et demandez au modèle de les citer :

RAG transforme les LLM en candidats pouvant consulter leurs documents pendant un test. Ensuite : comment segmenter concrètement les documents pour la recherche.