Chain-of-Thought-Prompting

Beim Chain-of-Thought-Prompting werden vor der endgültigen Antwort Zwischenschritte des Reasonings abgerufen. Die zentrale Erkenntnis: Transformer führen pro Token eine feste Menge an Berechnungen aus. Wenn das Modell Reasoning-Tokens ausgeben darf, erhält es effektiv mehr serielle Rechenleistung, um die Antwort zu ermitteln.

Eine sofortige Antwort begrenzt die für ein schwieriges Problem verfügbare Rechenleistung. CoT hebt diese Begrenzung auf, indem die Berechnung über mehrere generierte Tokens verteilt wird.

Die bekannte Triggerphrase Let us think step by step (Kojima et al., 2022) ruft Reasoning mit keinen Beispielen hervor. Das funktioniert, weil instruction-tuned Modelle das Muster verinnerlicht haben, dass auf eine solche Phrase eine ausgearbeitete Lösung folgt.

Zero-Shot CoT ist kostengünstig und überraschend effektiv, aber die Qualität des Reasonings lässt sich weniger gut steuern als bei Few-Shot CoT mit kuratierten Beispielen.

Few-Shot CoT (Wei et al., 2022) stellt Beispiele bereit, die den Reasoning-Verlauf und nicht nur die Antwort enthalten. Dadurch lernt das Modell sowohl, wie es schlussfolgern soll, als auch das gewünschte Format. Das führt zu zuverlässigeren und konsistenteren Reasoning-Ketten als bei Zero-Shot.

Kuratierten Sie Beispiele, deren Reasoning-Stil, Granularität und Länge dem entsprechen, was Sie kopiert haben möchten. Inkonsistentes Reasoning in den Beispielen führt zu inkonsistenten Ketten.

Machen Sie die endgültige Antwort maschinell extrahierbar: Beenden Sie die Kette mit einem festen Marker (zum Beispiel The answer is X oder einem JSON-Feld). Das Parsen frei formulierter Ketten ist fragil.

Bei Produkten für Endbenutzer können Sie die Kette ausblenden und nur die geparste Antwort anzeigen, während Sie das Reasoning als internen Notizbereich beibehalten.

Ein wichtiger Vorbehalt: Die verbalisierte Kette kann die tatsächlichen Berechnungen des Modells nicht widerspiegeln. Studien zeigen, dass Modelle plausibel klingende Begründungen erzeugen können, die nachträglich eine von verborgenen Verzerrungen bestimmte Antwort rationalisieren (zum Beispiel durch die Position einer Option).

Betrachten Sie CoT weder als getreue Erklärung noch als Prüfprotokoll. CoT verbessert bei vielen Aufgaben die Genauigkeit, bietet aber keinen Einblick in den tatsächlichen Mechanismus des Modells.

Für eine einzelne deterministische Kette reduziert eine niedrige Temperatur die Varianz. CoT lässt sich jedoch besonders wirkungsvoll mit Sampling kombinieren: Bei moderater Temperatur können Sie mehrere unterschiedliche Ketten erzeugen und zusammenfassen (behandelt unter Self-Consistency).

Vermeiden Sie Greedy-Decoding, wenn Sie mehrere Pfade sampeln möchten. Greedy-Decoding beseitigt die Diversität und verhindert eine sinnvolle Zusammenfassung.

Geben Sie der Kette bei komplexen Problemen eine Struktur: nummerierte Schritte, eine Zustandstabelle oder eine Aufteilung in Planen und Ausführen. Struktur reduziert übersprungene Schritte und macht Zwischenzustände überprüfbar.

Programmunterstützte Ansätze gehen noch weiter: Sie geben ausführbaren Code als Reasoning aus und lagern arithmetische Berechnungen an einen Interpreter aus. Dadurch wird eine ganze Klasse von Berechnungsfehlern vermieden.

CoT erhöht die Zahl der ausgegebenen Tokens und damit Kosten sowie Latenz. Bei einfachen Aufgaben bringt der Mehraufwand keinen Nutzen, bei schwierigen Aufgaben ist er unerlässlich. Ein pragmatisches Muster ist adaptives Reasoning: Lösen Sie CoT nur aus, wenn eine kostengünstige Schätzung des Schwierigkeitsgrads oder eine Antwort mit geringer Konfidenz dies rechtfertigt.

Bei Reasoning-Modellen mit integriertem Denken steuern Sie stattdessen ein Budget für den Reasoning-Aufwand, anstatt die Kette selbst per Prompt anzufordern.

Moderne Reasoning-Modelle führen automatisch eine ausgedehnte interne Abwägung durch. Ausführliche Anweisungen wie Let us think step by step können bei ihnen überflüssig oder sogar kontraproduktiv sein, weil sie den trainierten Denkprozess stören.

Bevorzugen Sie bei diesen Modellen prägnante Aufgabenstellungen und explizite Anforderungen an das Antwortformat. Stimmen Sie außerdem den Parameter für den Reasoning-Aufwand ab, statt Ketten von Hand zu formulieren.

CoT kann bei Aufgaben schaden, bei denen ausführliche Überlegungen die richtige Intuition überlagern, bei einfachem Musterabgleich oder wenn die Verbalisierung Fehler einführt, die das Modell implizit nicht machen würde. Außerdem vergrößert es die Angriffsfläche für Prompt-Injection innerhalb langer Ketten.

Vergleichen Sie CoT für jede Aufgabe mit direkten Antworten. Nehmen Sie niemals an, dass Reasoning-Prompts grundsätzlich vorteilhaft sind.

CoT in der Produktion: Kuratieren Sie konsistente Beispiele (oder verlassen Sie sich auf das dem Modell eigene Reasoning), erzwingen Sie eine parsbare Antwortmarkierung, erzeugen Sie für schwierige Aufgaben mehrere Ketten, validieren Sie nach Möglichkeit die Arithmetik durch Codeausführung und aktivieren Sie Reasoning nur ab einer bestimmten Schwierigkeit, um die Kosten zu kontrollieren.

Protokollieren Sie die Ketten zur Offline-Analyse, stellen Sie sie aber niemals als Ground-Truth-Erklärungen bereit.

Überlegen Sie, warum CoT hilft und wo es nicht hilft.

Wichtigste Erkenntnisse:

• CoT tauscht zusätzliche Tokens gegen zusätzliche serielle Rechenleistung ein; es hilft bei mehrstufigen Aufgaben, nicht bei trivialen.
• Zero-shot-CoT verwendet eine Triggerphrase; Few-shot-CoT liefert konsistente Beispiele für Reasoning.
• Beenden Sie die Ausgabe immer mit einer maschinenextrahierbaren Antwortmarkierung; Ketten sind keine zuverlässigen Erklärungen.
• Erzeugen Sie für schwierige Aufgaben mehrere Ketten, lagern Sie die Arithmetik an Code aus und aktivieren Sie CoT nur ab einer bestimmten Schwierigkeit.
• Bei Reasoning-native-Modellen sollten Sie prägnante Prompts und ein Budget für den Reasoning-Aufwand ausführlichen Anweisungen für Denkketten vorziehen.