自己整合性とリフレクション

AIが自分の仕事を再確認してくれたら、と思ったことはありませんか？あるいは、答えを出す前にいくつかの異なるアプローチを試してくれたらどうでしょうか。それがSelf-ConsistencyとReflectionの役割です。

これらの高度な技術により、大規模言語モデル（LLM）はより信頼性と精度の高い出力を生成できるようになります。

LLMは強力ですが、依然としてミスをしたり、事実を「ハルシネーション」したり、1つの推論経路に行き詰まったりすることがあります。これらの技術は、LLMにありがちな次の制限への対策になります。

• ハルシネーション：誤った情報や意味をなさない情報を生成することです。
• 推論エラー：複雑な問題解決における論理の誤りです。
• 堅牢性の不足：プロンプトの表現が少し変わるだけで結果が変わりやすいことです。

自己整合性とリフレクションによって、AIが生成するコンテンツ全体の品質と信頼性が向上します。

Self-Consistency（自己整合性）とは、LLMに同じ質問への多様な複数の回答を生成するよう指示するプロンプティング技術です。複数の選択肢を生成した後、最も頻繁に現れる、または最も一貫した回答を選びます。

複雑な問題について、何人もの賢い友人に意見を聞き、その多数決の結論に従うようなものだと考えてください。これにより、1つの誤りに左右される可能性が大幅に減ります。

LLMに複雑な数学の文章題や論理パズルを質問するとします。1回だけ試すのではなく、自己整合性では何度も解かせます。

• 試行1：1つの推論経路と回答を提示します。
• 試行2：少し異なる推論経路と回答を提示します。
• 試行3：さらに別の経路を提示します……

5回の試行のうち3回が同じ答えになった場合、その答えはより堅牢で、正しい可能性が高いと見なされます。

自己整合性を実装するには、LLMに複数の回答を生成するよう、プロンプトで明確に指示する必要があります。試行回数と回答の提示方法を指定することもできます。

基本的な構成は次のとおりです。

Reflection（リフレクション）とは、LLMが自分の過去の出力を批判的に評価することです。自己修正の仕組みとして機能し、欠陥、偏り、改善できる点を特定したうえで、修正または洗練された回答を生成します。

これは、提出前に自分の成果物を見直し、誤りを見つけ、考えを磨き上げて、より質の高い最終成果物に仕上げる作業に似ています。

LLMに短編小説を書かせる場面を想像してください。最初の下書きが生成された後、「物語のプロットの矛盾と登場人物の一貫性を確認してください」や「描写表現を改善してください」と指示します。

するとLLMは自身の編集者として振る舞い、批判的なペルソナを用いて最初の作品を改善します。この反復的なプロセスによって、コンテンツの質が大幅に向上します。

Reflectionでは通常、複数の手順からなるプロンプティングプロセスを使います。

1. ステップ1：最初の生成プロンプト（例：「Xについて1段落書いてください」）。
2. ステップ2：LLMの過去の出力を含め、それを批評または改善するよう求める追加プロンプト。

追加プロンプトは、次のような構成にします。

これらの技術を組み合わせると、特に複雑なタスクで、さらに堅牢な結果を得られます。次のように進めます。

• 自己整合性を使って複数の回答を生成します。
• 次に、各回答へリフレクションを適用して洗練します。
• 最後に、候補の中から最良かつ最も一貫性があり、洗練された回答を選びます。

これにより強力なフィードバックループが生まれ、LLMの信頼性と精度が大幅に向上します。

このレッスンでは、LLMの出力をより信頼性が高く正確なものにする、2つの強力な高度プロンプト技法について学びました。

• Self-Consistency：複数の回答を生成し、最も頻出する回答、または最も堅牢な回答を選択することで、単一の誤りの影響を抑えます。
• Reflection：反復的な自己修正を通じて、LLMが自身の出力を批評し、改善するように導きます。

これらの戦略を適用することで、AIが生成するコンテンツの品質、堅牢性、信頼性を大幅に高めることができます。