ハルシネーションを減らす戦略
LLMが生成する事実誤認や架空の情報を最小限に抑える方法を実装します。
「ハルシネーションを減らす戦略」はCoddyKit上の無料AI Prompt Engineeringレッスンです。 これはレッスン2/3です。 下記で完全なレッスンを無料で読むことができます。その後、ブラウザ内の組み込みコードエディタと24時間対応のAIチューターでハンズオン演習できます。 これはAI Prompt Engineering学習パスの一部であり、ウェブとCoddyKitアプリ全体で進捗が同期されます。 AI Prompt Engineeringコースには全3レッスンが含まれています。
LLMのハルシネーションとは
ようこそ。このレッスンでは、大規模言語モデル（LLM）が抱える一般的な課題、ハルシネーションについて扱います。
LLMのハルシネーションとは、モデルが事実と異なる情報、意味をなさない情報、または完全に捏造した情報を生成しながら、それを真実であるかのように提示する現象です。AIが自信満々に話を作ってしまうようなものです。
LLMが「ハルシネーション」を起こす理由
LLMは、膨大なテキストデータに含まれるパターンをもとに、次に現れる可能性が最も高い単語を予測するよう学習されています。人間の意味で事実を「知っている」わけではありません。
- 十分な情報や関連する情報がない場合があります。
- 学習データの範囲を超えて推測することがあります。
- 事実の正確さよりも、筋が通っていて自信のある表現を優先することがあります。
このことを理解すると、LLMを導くためのよりよいプロンプトを設計できるようになります。
戦略1: コンテキストでグラウンディングする
ハルシネーションを減らす最も効果的な方法の一つは、関連情報を使ってLLMをグラウンディングすることです。学習データから事実を思い出すよう求めるのではなく、必要なコンテキストをプロンプトに直接与えてください。
LLMは、何でも知っている検索エンジンではなく、与えられたテキストを非常に賢く読む読者だと考えてみてください。
例: コンテキストを提供する
LLMに具体的なコンテキストを提供する方法を見てみましょう。モデルは、提供されたテキストだけを根拠に回答するようになります。
def simulate_llm_response(prompt):
print(f"LLM received prompt:\n---\n{prompt}\n---")
context = "Marie Curie was a Polish and naturalized-French physicist and chemist who conducted pioneering research on radioactivity. She was the first woman to win a Nobel Prize."
query = "Tell me about Marie Curie's nationality based on the provided text."
prompt_with_context = (
f"Context: {context}\n\n"
f"Question: {query}\n\n"
f"Answer (only use the context provided):"
)
simulate_llm_response(prompt_with_context)戦略2: 不確実性を伝えるよう指示する
LLMは、間違っている場合でも自信があるように聞こえることがよくあります。答えがわからない場合は認めるようモデルに明示的に指示することで、この問題を軽減できます。
これにより、情報の不足を埋めるために内容を捏造するのではなく、「わかりません」と回答するようLLMを促せます。
例: 不確実性を伝えるプロンプト
「わからない場合は、情報が十分にないと伝えてください」のような明確な指示を追加してください。
def simulate_llm_response(prompt):
print(f"LLM received prompt:\n---\n{prompt}\n---")
query = "What is the capital city of the planet Mars?"
prompt_with_uncertainty = (
f"Answer the following question. If you don't know the answer, "
f"please state 'I don't know' rather than guessing or fabricating information.\n\n"
f"Question: {query}\n\n"
f"Answer:"
)
simulate_llm_response(prompt_with_uncertainty)戦略3: 情報源を求める
もう一つの有効な戦略は、LLMに情報源を引用するよう求めたり、推論の過程を説明するよう求めたりすることです。実在するURLが常に示されるとは限りませんが、次のような効果があります。
- モデルに、より慎重に情報を取り出させることができます。
- もっともらしい情報源や推論の道筋を示せない場合に、内容を捏造していることに気付きやすくなります。
戦略4: 段階的に考えるよう促す
複雑な質問では、最終的な回答を出す前に、LLMに「一つずつ考えて」または「推論を説明して」と求めることで、ハルシネーションを大幅に減らせる場合があります。
これによりモデルは問題を分解できるため、途中の手順がより正確になり、最終的な回答の信頼性も高まることがあります。
プロンプトを反復して改善する
プロンプトエンジニアリングは反復的なプロセスです。LLMがハルシネーションを起こしても、あきらめないでください。
- 言い換える: プロンプトの表現を変えてみます。
- コンテキストを追加する: さらに具体的な情報を提供します。
- 形式を指定する: 出力を制限できるよう、箇条書きやJSONなどの構造化された形式で回答するよう求めます。
- 戦略を組み合わせる: グラウンディング、不確実性に関する指示、段階的な思考を組み合わせて使います。
クイックチェック: ハルシネーション対策
LLMのハルシネーションを減らすのに効果的な戦略は、次のうちどれですか。
復習: ハルシネーションに対処する
よくできました。LLMのハルシネーションを最小限に抑えるための主な戦略を学びました。
- グラウンディング: 明確なコンテキストを提供します。
- 不確実性: わからない場合はそう伝えるようLLMに指示します。
- 検証: 情報源や推論を尋ねます。
- 段階的な思考: 詳細に考えるよう促します。
- 反復: プロンプトを継続的に改善します。
これらのテクニックを適用することで、LLMとのやり取りをより信頼性が高く正確なものにできます。
AI チューターと学ぶ AI Prompt Engineering — 無料
ブラウザでリアルコードを書いて実行し、24/7 の AI チューターから瞬時にサポートを受け、ウェブまたはアプリで続きから学習できます。
- コース
- 53
- レッスン
- 199
よくある質問
「ハルシネーションを減らす戦略」レッスンは無料ですか？
はい。「ハルシネーションを減らす戦略」の完全なテキストはこのウェブで無料で読めます。インタラクティブに演習し（組み込みコードエディタと24時間対応のAIチューター）、AI Prompt Engineeringコースの残りをアンロックするには、CoddyKit PROにアップグレードしてください。 AI Prompt Engineeringコースには全3レッスンが含まれています。
「ハルシネーションを減らす戦略」で何を学びますか？
LLMが生成する事実誤認や架空の情報を最小限に抑える方法を実装します。 ブラウザで直接実行するハンズオンコードでAI Prompt Engineeringを演習し、24時間対応のAIチューターがレッスンを進める中での質問に答えます。
AI Prompt Engineeringを始めるのに経験は必要ですか？
事前経験は必要ありません。CoddyKitのAI Prompt Engineeringは初級者から上級者向けに構成されているため、ここから始めるか最初から始めて、自分のペースで進むことができます。 これはレッスン2/3です。
「ハルシネーションを減らす戦略」レッスンにはどのくらい時間がかかりますか？
ほとんどのCoddyKitレッスンは約5～10分かかります。各レッスンはコンパクトでインタラクティブなので、着実に進歩し、ウェブとアプリ全体で正確に前回の場所から再開できます。
このAI Prompt Engineeringレッスンでコードを書いて実行できますか？
はい。すべてのAI Prompt Engineeringレッスンに組み込みコードエディタが含まれているため、ブラウザでリアルコードを書いて実行し、即座のAIフィードバックを取得できます。ローカル設定は不要です。
このコースのすべてのレッスン
- バイアスの特定と低減
- ハルシネーションを減らす戦略
- プロンプティングにおける倫理的考慮事項