检索增强生成（RAG）

欢迎学习检索增强生成（RAG）！本课将介绍一种强大的技术，帮助大型语言模型（LLM）变得更加准确可靠。

RAG 将 LLM 的广博知识与最新的外部信息结合起来。这就像在一场艰难的考试中给 LLM 提供一本可以查阅的书！

未经增强的 LLM 虽然表现出色，但存在一些局限：

• 幻觉：有时会生成事实错误或毫无意义的信息。
• 知识过时：其知识仅限于训练数据的截止日期。
• 缺乏针对性：可能不了解小众或私有领域中的特定事实。
• 没有来源引用：无法轻松说明信息的来源。

RAG 通过将检索系统与生成式 LLM结合，解决了这些局限。

在 LLM 生成回答之前，RAG 会先从可信的外部知识库中检索相关信息。然后，检索到的信息会对提供给 LLM 的提示词进行“增强”（提升）。

RAG 的第一步是检索。当用户提出问题时，专用的“检索器”组件会立即开始工作。

• 它会分析用户的查询。
• 它会搜索大型外部知识库（例如文档、数据库和网页）。
• 它会识别并获取与查询相关的最重要信息片段或“文档”。

检索到相关信息后，下一步就是增强。

• 将检索到的文本片段直接插入原始用户提示词中。
• 这会创建一个“增强后的提示词”，其中同时包含用户的请求和事实背景。
• 这个经过丰富的提示词为 LLM 提供生成准确回答所需的具体数据。

最后进行生成。大型语言模型会接收增强后的提示词。

• 现在已经明确提供了相关上下文，LLM 会生成回答。
• 系统会要求它主要依据所提供的信息作答，而不是完全依赖预训练知识。
• 这样可以得到更有事实依据、更准确且可验证的输出。

应用 RAG 可以带来多个显著优势：

• 减少幻觉：LLM 的回答以知识库中的事实为依据。
• 获取最新信息：能够访问超出 LLM 训练截止范围的当前数据。
• 领域针对性：可以轻松集成组织内部或专业领域的数据。
• 可解释性：系统通常可以引用检索信息的来源。

让我们通过一个简单的 RAG 交互来了解其流程：

1. 用户查询：“埃菲尔铁塔何时完工？”
2. 检索：系统搜索历史事实数据库，找到“埃菲尔铁塔于 1889 年 3 月 31 日完工。”
3. 增强：提示词变为：“根据以下信息：‘埃菲尔铁塔于 1889 年 3 月 31 日完工。’，它于何时完工？”
4. 生成：LLM 回答：“埃菲尔铁塔于 1889 年 3 月 31 日完工。”

RAG 系统的核心由两个主要的逻辑组件组成：

• 检索器：该组件负责根据用户的查询，从外部知识库中搜索并获取最相关的文档或数据片段。
• 生成器：这就是大型语言模型（LLM）本身。它将用户的原始查询与检索到的上下文结合起来，生成连贯且信息充分的回答。

以下哪些是使用检索增强生成（RAG）处理 LLM 时的主要益处？

现在，您已经了解了检索增强生成（RAG）的核心概念和架构。RAG 是构建更加可靠、基于事实且具备上下文感知能力的 LLM 应用的重要技术。

通过结合检索与生成，RAG 使 LLM 能够与动态外部数据交互，并根据这些数据提供回答。接下来，我们将探索向量数据库如何在 RAG 系统的高效检索中发挥重要作用！