Selbstkonsistenz und Reflexion

Haben Sie sich schon einmal gewünscht, eine KI könnte ihre Arbeit überprüfen? Oder vor einer Antwort verschiedene Ansätze ausprobieren? Genau darum geht es bei Self-Consistency und Reflection.

Diese fortgeschrittenen Techniken helfen Large Language Models (LLMs), zuverlässigere und genauere Ausgaben zu erzeugen.

LLMs sind leistungsfähig, können aber trotzdem Fehler machen, Fakten „halluzinieren“ oder bei einer einzigen Argumentationslinie stecken bleiben. Diese Techniken helfen, häufige Einschränkungen von LLMs zu bewältigen:

• Halluzinationen: Das Erzeugen falscher oder unsinniger Informationen.
• Fehler beim Schlussfolgern: Fehlerhafte Logik bei der Lösung komplexer Probleme.
• Mangelnde Robustheit: Eine hohe Empfindlichkeit gegenüber geringfügigen Änderungen der Formulierung eines Prompts.

Self-Consistency und Reflection verbessern die allgemeine Qualität und Vertrauenswürdigkeit von KI-generierten Inhalten.

Self-Consistency ist eine Prompting-Technik, bei der Sie ein LLM anweisen, mehrere unterschiedliche Antworten auf dieselbe Frage zu erzeugen. Nachdem mehrere Optionen erzeugt wurden, wählen Sie daraus die häufigste oder konsistenteste Antwort aus.

Stellen Sie sich vor, Sie fragen mehrere kluge Freunde nach ihrer Meinung zu einem komplexen Problem und entscheiden sich anschließend für den Mehrheitskonsens. Dadurch wird die Wahrscheinlichkeit eines einzelnen Fehlers erheblich reduziert.

Angenommen, Sie stellen einem LLM eine komplexe mathematische Textaufgabe oder ein logisches Rätsel. Statt nur einen Versuch zu unternehmen, würde Self-Consistency das LLM dazu auffordern, es mehrmals zu versuchen:

• Versuch 1: Liefert einen Schlussfolgerungspfad und eine Antwort.
• Versuch 2: Liefert einen etwas anderen Schlussfolgerungspfad und eine Antwort.
• Versuch 3: Einen weiteren Pfad …

Wenn 3 von 5 Versuchen zur selben Antwort führen, gilt diese Antwort als robuster und wahrscheinlich richtig.

Um Self-Consistency umzusetzen, muss Ihr Prompt das LLM eindeutig anweisen, mehrere Antworten zu erzeugen. Sie können die Anzahl der Versuche und die gewünschte Darstellung festlegen.

Hier ist eine grundlegende Struktur:

Reflection bezeichnet die kritische Bewertung einer früheren Ausgabe durch ein LLM. Sie dient als Mechanismus zur Selbstkorrektur: Das LLM erkennt Fehler, Vorurteile oder Verbesserungsmöglichkeiten und erzeugt anschließend eine überarbeitete oder verfeinerte Antwort.

Das ist vergleichbar damit, die eigene Arbeit vor der Abgabe noch einmal zu überprüfen, Fehler zu entdecken und die eigenen Gedanken zu verfeinern, um ein hochwertigeres Endergebnis zu erzielen.

Stellen Sie sich vor, Sie bitten ein LLM, eine Kurzgeschichte zu schreiben. Nachdem es den ersten Entwurf erzeugt hat, fordern Sie es anschließend auf, „die Geschichte auf Handlungslücken und die Konsistenz der Figuren zu überprüfen“ oder „die beschreibende Sprache zu verbessern“.

Das LLM übernimmt dann die Rolle seines eigenen Lektors und nimmt eine kritische Persona an, um seine ursprüngliche Erstellung zu verbessern. Dieser iterative Prozess führt zu deutlich besseren Inhalten.

Reflection umfasst typischerweise einen mehrstufigen Prompting-Prozess:

1. Schritt 1: Prompt zur ersten Generierung (z. B. „Schreiben Sie einen Absatz über X“).
2. Schritt 2: Ein Folge-Prompt, der die vorherige Ausgabe des LLM enthält und es auffordert, diese zu kritisieren oder zu verbessern.

So können Sie den Folge-Prompt strukturieren:

Diese Techniken lassen sich kombinieren, um noch robustere Ergebnisse zu erzielen, insbesondere bei komplexen Aufgaben. Sie könnten:

• mithilfe von Self-Consistency mehrere Antworten erzeugen.
• Anschließend Reflection auf jede einzelne Antwort anwenden, um sie zu verfeinern.
• Zum Schluss die beste, konsistenteste und verfeinerte Antwort aus der Menge auswählen.

So entsteht eine leistungsfähige Feedbackschleife, die die Zuverlässigkeit und Genauigkeit von LLMs deutlich verbessert.

Stellen Sie sich ein Szenario vor, in dem ein LLM eine faktenbasierte Zusammenfassung einer komplexen Forschungsarbeit erstellen soll. Welche der folgenden Vorteile werden hauptsächlich mit der Technik Self-Consistency in Verbindung gebracht?

In dieser Lektion haben wir zwei leistungsstarke fortgeschrittene Prompting-Techniken kennengelernt, mit denen sich die Ausgaben von LLMs zuverlässiger und genauer machen lassen:

• Self-Consistency: Mehrere Antworten generieren und die häufigste oder robusteste auswählen, um einzelne Fehler zu vermeiden.
• Reflection: Das LLM durch iterative Selbstkorrektur dazu anleiten, seine eigenen Ausgaben zu kritisieren und zu verbessern.

Durch die Anwendung dieser Strategien können Sie die Qualität, Robustheit und Vertrauenswürdigkeit Ihrer KI-generierten Inhalte deutlich steigern.