Génération augmentée par récupération (RAG)

Bienvenue dans la génération augmentée par récupération (RAG) ! Cette leçon présente une technique puissante pour rendre les grands modèles de langage (LLM) plus exacts et plus fiables.

La RAG associe les vastes connaissances des LLM à des informations externes à jour. C'est comme si vous donniez à un LLM un livre ouvert pendant un examen difficile !

Les LLM classiques, bien qu'impressionnants, présentent certaines limites :

• Hallucinations : ils peuvent parfois générer des informations factuellement incorrectes ou dénuées de sens.
• Connaissances obsolètes : leurs connaissances se limitent à la date d'arrêt des données utilisées pour leur entraînement.
• Manque de précision : ils peuvent ne pas connaître des faits spécialisés ou propres à un domaine privé.
• Absence de citations : ils ne peuvent pas facilement indiquer la source de leurs informations.

La RAG remédie à ces limites en associant un système de récupération à un LLM génératif.

Avant que le LLM ne génère une réponse, la RAG récupère d'abord les informations pertinentes dans une base de connaissances externe fiable. Ces informations récupérées « enrichissent » ensuite l'instruction fournie au LLM.

La première étape de la RAG est la récupération. Lorsqu'un utilisateur pose une question, un composant de récupération dédié se met en action.

• Il analyse la requête de l'utilisateur.
• Il effectue une recherche dans une vaste base de connaissances externe (par exemple, des documents, des bases de données ou des pages Web).
• Il identifie et récupère les informations ou « documents » les plus pertinents liés à la requête.

Une fois les informations pertinentes récupérées, l'étape suivante est l'enrichissement.

• Les extraits de texte récupérés sont insérés directement dans l'instruction originale de l'utilisateur.
• Cela crée une « instruction enrichie » qui contient désormais à la fois la demande de l'utilisateur et un contexte factuel.
• Cette instruction enrichie fournit au LLM les données précises dont il a besoin pour formuler une réponse exacte.

Enfin, l'étape de génération a lieu. Le grand modèle de langage reçoit l'instruction enrichie.

• Le contexte pertinent étant désormais fourni explicitement, le LLM génère sa réponse.
• Il reçoit pour consigne de fonder sa réponse principalement sur les informations fournies, plutôt que de s'appuyer uniquement sur ses connaissances préentraînées.
• Les sorties obtenues sont ainsi davantage étayées, factuelles et vérifiables.

La mise en œuvre de la RAG offre plusieurs avantages importants :

• Réduction des hallucinations : les réponses du LLM sont ancrées dans les faits de la base de connaissances.
• Informations à jour : accès à des données actuelles qui vont au-delà de la date d'arrêt de l'entraînement du LLM.
• Spécificité du domaine : intégration facile de données privées ou spécialisées propres à une organisation.
• Explicabilité : le système peut souvent citer les sources dont les informations ont été récupérées.

Visualisons une interaction RAG simple :

1. Question de l'utilisateur : "Quand la tour Eiffel a-t-elle été achevée ?"
2. Récupération : le système effectue une recherche dans une base de données de faits historiques et trouve « La tour Eiffel a été achevée le 31 mars 1889. »
3. Enrichissement : l'instruction devient : « En vous basant sur les informations suivantes : « La tour Eiffel a été achevée le 31 mars 1889. », quand a-t-elle été achevée ? »
4. Génération : le LLM répond : « La tour Eiffel a été achevée le 31 mars 1889. »

Au cœur d'un système RAG se trouvent deux composants logiques principaux :

• Le composant de récupération : ce composant est chargé de rechercher et de récupérer les documents ou fragments de données les plus pertinents dans une base de connaissances externe, en fonction de la requête de l'utilisateur.
• Le générateur : il s'agit du grand modèle de langage (LLM) lui-même, qui combine la requête originale de l'utilisateur avec le contexte récupéré afin de produire une réponse cohérente et éclairée.

Parmi les propositions suivantes, quels sont les principaux avantages de la génération augmentée par récupération (RAG) pour les LLM ?

Vous connaissez désormais le concept central et l'architecture de la génération augmentée par récupération (RAG). La RAG est une technique essentielle pour créer des applications de LLM plus fiables, factuelles et adaptées au contexte.

En associant récupération et génération, la RAG permet aux LLM d'interagir avec des données externes dynamiques et de fournir des réponses fondées sur celles-ci. Ensuite, nous verrons comment les bases de données vectorielles jouent un rôle essentiel dans la récupération efficace pour les systèmes RAG !