Retrieval Augmented Generation (RAG)

Willkommen bei Retrieval Augmented Generation (RAG)! In dieser Lektion lernen Sie eine leistungsfähige Technik kennen, mit der Large Language Models (LLMs) genauer und zuverlässiger werden.

RAG kombiniert das umfangreiche Wissen von LLMs mit aktuellen externen Informationen. Stellen Sie sich vor, Sie geben einem LLM während einer schwierigen Prüfung ein aufgeschlagenes Buch!

Standard-LLMs sind zwar beeindruckend, haben aber einige Einschränkungen:

• Halluzinationen: Sie können manchmal sachlich falsche oder unsinnige Informationen erzeugen.
• Veraltetes Wissen: Ihr Wissen ist auf den Stichtag ihrer Trainingsdaten begrenzt.
• Mangelnde Spezifität: Sie kennen möglicherweise keine Nischenfakten oder privaten, domänenspezifischen Informationen.
• Keine Quellenangaben: Sie können nicht ohne Weiteres angeben, woher ihre Informationen stammen.

RAG begegnet diesen Einschränkungen, indem es ein Abrufsystem mit einem generativen LLM kombiniert.

Bevor das LLM eine Antwort generiert, ruft RAG zunächst relevante Informationen aus einer vertrauenswürdigen externen Wissensbasis ab. Diese abgerufenen Informationen „erweitern“ den Prompt, der dem LLM übergeben wird.

Der erste Schritt in RAG ist der Abruf. Wenn ein Benutzer eine Frage stellt, wird eine spezielle „Retriever“-Komponente aktiv.

• Sie analysiert die Anfrage des Benutzers.
• Sie durchsucht eine umfangreiche externe Wissensbasis, etwa Dokumente, Datenbanken oder Webseiten.
• Sie identifiziert und ruft die relevantesten Informationen oder „Dokumente“ zur Anfrage ab.

Sobald die relevanten Informationen abgerufen wurden, folgt der Schritt der Erweiterung.

• Die abgerufenen Textausschnitte werden direkt in den ursprünglichen Benutzer-Prompt eingefügt.
• Dadurch entsteht ein „erweiterter Prompt“, der nun sowohl die Anfrage des Benutzers als auch den faktischen Kontext enthält.
• Dieser angereicherte Prompt stellt dem LLM die spezifischen Daten bereit, die es für eine präzise Antwort benötigt.

Schließlich folgt der Schritt der Generierung. Das Large Language Model erhält den erweiterten Prompt.

• Da der relevante Kontext nun ausdrücklich bereitgestellt wird, generiert das LLM seine Antwort.
• Es wird angewiesen, seine Antwort in erster Linie auf die bereitgestellten Informationen zu stützen, statt sich ausschließlich auf sein vortrainiertes Wissen zu verlassen.
• Das führt zu besser fundierten, sachlichen und überprüfbaren Ausgaben.

Die Implementierung von RAG bietet mehrere wesentliche Vorteile:

• Weniger Halluzinationen: Die Antworten des LLMs sind in Fakten aus der Wissensbasis verankert.
• Aktuelle Informationen: Zugriff auf aktuelle Daten, die über den Stichtag der Trainingsdaten des LLMs hinausgehen.
• Domänenspezifität: Private oder spezialisierte Daten einer Organisation lassen sich problemlos integrieren.
• Erklärbarkeit: Das System kann häufig die Quellen angeben, aus denen die Informationen abgerufen wurden.

Sehen wir uns einen einfachen RAG-Ablauf an:

1. Benutzeranfrage: „Wann wurde der Eiffelturm fertiggestellt?“
2. Abruf: Das System durchsucht eine Datenbank mit historischen Fakten und findet: „Der Eiffelturm wurde am 31. März 1889 fertiggestellt.“
3. Erweiterung: Der Prompt lautet nun: „Wann wurde der Eiffelturm fertiggestellt, basierend auf den folgenden Informationen: ‚Der Eiffelturm wurde am 31. März 1889 fertiggestellt.‘?“
4. Generierung: Das LLM antwortet: „Der Eiffelturm wurde am 31. März 1889 fertiggestellt.“

Im Kern besteht ein RAG-System aus zwei wesentlichen logischen Komponenten:

• Der Retriever: Diese Komponente ist dafür zuständig, anhand der Benutzeranfrage die relevantesten Dokumente oder Datenabschnitte aus einer externen Wissensbasis zu suchen und abzurufen.
• Der Generator: Dabei handelt es sich um das Large Language Model (LLM) selbst. Es kombiniert die ursprüngliche Anfrage des Benutzers mit dem abgerufenen Kontext, um eine schlüssige und fundierte Antwort zu erzeugen.

Welche der folgenden Punkte sind wesentliche Vorteile der Verwendung von Retrieval Augmented Generation (RAG) für LLMs?

Sie haben nun das Kernkonzept und die Architektur von Retrieval Augmented Generation (RAG) kennengelernt. RAG ist eine wichtige Technik zum Erstellen zuverlässigerer, faktisch korrekter und kontextbewusster LLM-Anwendungen.

Durch die Kombination von Abruf und Generierung ermöglicht RAG LLMs, mit dynamischen externen Daten zu interagieren und darauf basierende Antworten zu liefern. Als Nächstes untersuchen wir, welche wichtige Rolle Vektordatenbanken beim effizienten Abruf in RAG-Systemen spielen!