LLM 为何需要检索
用真实来源减少幻觉
LLM 为何需要检索 是 CoddyKit 上的免费 NLP Academy 课时。 这是第 1 节课，共 4 节。 你可以在下方免费阅读本课时的完整内容 — 然后在浏览器中使用内置代码编辑器和全天候 AI 导师进行实践。 这是 NLP Academy 学习路径的一部分，你的进度在网页和 CoddyKit 应用中同步。 NLP Academy 课程共包含 4 节课。
记忆被冻结的模型
LLM 只知道训练期间见过的内容。在那之后，它的知识就被冻结了，因此无法看到您最新的文档或私有数据。
幻觉问题
当 LLM 缺少某个事实时，它常常会编造一个听起来很自信的说法。我们称之为幻觉，这是影响可信度的核心风险。
为什么更大的模型还不够
扩大模型规模能提升能力，却不会增加您的特定事实。即使拥有庞大的参数数量，它仍然无法存储您的私有维基或今天的新闻。
RAG 的核心思想
检索增强生成通过先获取相关文本，再要求模型使用这些文本回答问题，解决了这一问题。
先检索，再生成
RAG 分为两个步骤。首先检索与问题匹配的段落，然后基于这些段落生成答案。
基于真实来源
将真实文档提供给提示词，可以让模型基于它实际能够读取的事实，而不是必须猜测的事实来回答。
始终保持最新，无需重新训练
更新文档，答案也会随之更新。RAG 无需承担重新训练模型的成本，就能让回答保持最新。
比微调更便宜
微调会将知识写入模型权重，而且重复进行的成本很高。RAG 则在查询时添加知识，维护成本低得多。
可追溯的答案
由于每个答案都来自检索到的段落，您可以展示引用。用户能够看到来源，并核实模型所作的陈述。
上下文窗口的限制
您不能将整座图书馆都粘贴到提示词中。模型拥有固定的上下文窗口，因此检索只会选出少数真正重要的段落。
RAG 的优势所在
RAG 适用于客服机器人、文档搜索和内部问答：也就是正确答案存在于您的数据中，而不是模型记忆中的任何任务。
快速检查
想一想，我们为什么要向语言模型添加检索功能。
总结
LLM 的记忆被冻结且并不完整，因此会产生幻觉。RAG 会检索真实段落，并生成有依据、最新且可引用的答案。✅
常见问题解答
「LLM 为何需要检索」课时是免费的吗？
是的 — 「LLM 为何需要检索」的完整文本可在网页上免费阅读。要进行交互式练习（内置代码编辑器和全天候 AI 导师）并解锁 NLP Academy 课程的其余内容，请升级到 CoddyKit PRO。 NLP Academy 课程共包含 4 节课。
「LLM 为何需要检索」这节课中我会学到什么？
用真实来源减少幻觉 你通过在浏览器中直接运行的动手代码来练习 NLP Academy，全天候 AI 导师会在你学习这节课的过程中回答你的问题。
学习 NLP Academy 需要有经验吗？
无需任何先前经验。CoddyKit 上的 NLP Academy 课程适合初学者到高级学习者，你可以从这里开始或从头开始，按照自己的节奏学习。 这是第 1 节课，共 4 节。
「LLM 为何需要检索」课时需要多长时间？
大多数 CoddyKit 课程大约需要 5–10 分钟。每节课都很精短且互动，所以你能稳步进步，并在网页和应用中从离开的地方继续。
我能在这节 NLP Academy 课中编写并运行代码吗？
能。每节 NLP Academy 课都包含内置代码编辑器，你可以在浏览器中直接编写并运行真实代码，并获得即时 AI 反馈 — 无需本地设置。
此课程中的所有课时
- LLM 为何需要检索
- 分块与嵌入文档
- 使用向量存储进行向量搜索
- 将检索接入提示