AI Agents · 课时

查询引擎与响应合成

查询引擎通过 refine、compact 和 tree_summarize 等策略协调检索与合成。

查询引擎与响应合成 是 CoddyKit 上的免费 AI Agents 课时。这是第 3 节课，共 4 节。你可以在下方免费阅读本课时的完整内容 — 然后在浏览器中使用内置代码编辑器和全天候 AI 导师进行实践。这是 AI Agents 学习路径的一部分，你的进度在网页和 CoddyKit 应用中同步。 AI Agents 课程共包含 4 节课。

本课时的部分内容尚未翻译，以英文显示。

查询引擎 = 检索 + 合成

LlamaIndex 查询引擎分为两个阶段：

检索 — 查找相关分块
合成 — 根据这些分块生成答案

两个阶段都可以配置。

The Default Query Engine

query_engine = index.as_query_engine()
response = query_engine.query('What is our refund policy?')
print(response.response)         # the answer
print(response.source_nodes)     # the chunks used

响应模式

引擎如何根据检索到的分块组装最终答案：

精炼 — 逐个传入分块，并不断优化答案（最准确、最慢）
紧凑 — 每次调用都尽可能将更多分块放入上下文（默认）
树形摘要 — 递归式摘要
简单摘要 — 一次调用处理所有分块

Setting Response Mode

query_engine = index.as_query_engine(response_mode='tree_summarize')

Configuring Retrieval

query_engine = index.as_query_engine(
    similarity_top_k=5,
    response_mode='compact'
)

自定义提示词

注入您自己的提示词模板：

from llama_index.core.prompts import PromptTemplate

qa_template = PromptTemplate(
    'Context:\n{context_str}\n\nQuestion: {query_str}\nAnswer:'
)
query_engine.update_prompts({'response_synthesizer:text_qa_template': qa_template})

Streaming Responses

query_engine = index.as_query_engine(streaming=True)
response = query_engine.query('Hello')
for token in response.response_gen:
    print(token, end='', flush=True)

引用

使用 CitationQueryEngine 获取由 LLM 生成的引用：

from llama_index.core.query_engine import CitationQueryEngine

engine = CitationQueryEngine.from_args(index, similarity_top_k=4)
response = engine.query('What is our refund policy?')
print(response.response)
for i, node in enumerate(response.source_nodes):
    print(f'[{i+1}] {node.metadata}')

后处理器

在合成之前，对检索到的节点重新排序或进行过滤：

from llama_index.postprocessor.cohere_rerank import CohereRerank

rerank = CohereRerank(api_key=COHERE_KEY, top_n=3)
query_engine = index.as_query_engine(
    similarity_top_k=20,           # retrieve 20
    node_postprocessors=[rerank]   # rerank to top 3
)

Metadata Filters

from llama_index.core.vector_stores import MetadataFilters, ExactMatchFilter

filters = MetadataFilters(filters=[
    ExactMatchFilter(key='department', value='engineering')
])
query_engine = index.as_query_engine(filters=filters)

Async Queries

response = await query_engine.aquery('What is our refund policy?')
print(response.response)

聊天引擎

适用于带记忆的多轮对话：

chat_engine = index.as_chat_engine(chat_mode='context')
response = chat_engine.chat('What is our refund policy?')
followup = chat_engine.chat('And for opened items?')

管道与工作流

对于复杂的多步骤代理，LlamaIndex Workflows 为您提供符合 Python 风格的事件驱动流程——理念上类似于 LangGraph。

响应模式

哪种响应模式最慢但最准确？

回顾

配置 top_k、response_mode、后处理器和元数据过滤器，以调整您的查询引擎。使用 CitationQueryEngine 获取值得信赖的答案。

常见问题解答

「查询引擎与响应合成」课时是免费的吗？

是的 — 「查询引擎与响应合成」的完整文本可在网页上免费阅读。要进行交互式练习（内置代码编辑器和全天候 AI 导师）并解锁 AI Agents 课程的其余内容，请升级到 CoddyKit PRO。 AI Agents 课程共包含 4 节课。

「查询引擎与响应合成」这节课中我会学到什么？

查询引擎通过 refine、compact 和 tree_summarize 等策略协调检索与合成。你通过在浏览器中直接运行的动手代码来练习 AI Agents，全天候 AI 导师会在你学习这节课的过程中回答你的问题。

学习 AI Agents 需要有经验吗？

无需任何先前经验。CoddyKit 上的 AI Agents 课程适合初学者到高级学习者，你可以从这里开始或从头开始，按照自己的节奏学习。这是第 3 节课，共 4 节。

「查询引擎与响应合成」课时需要多长时间？

大多数 CoddyKit 课程大约需要 5–10 分钟。每节课都很精短且互动，所以你能稳步进步，并在网页和应用中从离开的地方继续。

我能在这节 AI Agents 课中编写并运行代码吗？

能。每节 AI Agents 课都包含内置代码编辑器，你可以在浏览器中直接编写并运行真实代码，并获得即时 AI 反馈 — 无需本地设置。

此课程中的所有课时

← 返回 AI Agents