AI Agents · 课时

基于您的文档构建问答机器人

交付一个可用的 RAG 机器人：导入 PDF、生成嵌入、搜索并生成回答。这是生产级智能体的“你好，世界”。

基于您的文档构建问答机器人 是 CoddyKit 上的免费 AI Agents 课时。这是第 1 节课，共 4 节。你可以在下方免费阅读本课时的完整内容 — 然后在浏览器中使用内置代码编辑器和全天候 AI 导师进行实践。这是 AI Agents 学习路径的一部分，你的进度在网页和 CoddyKit 应用中同步。 AI Agents 课程共包含 4 节课。

本课时的部分内容尚未翻译，以英文显示。

项目目标

构建一个能够根据您自己的文档（PDF、Markdown 等）回答问题的聊天机器人。这是生产环境代理的“Hello World”，并且对任何团队都能立即派上用场。

架构

摄取：加载文档 → 分块 → 嵌入 → 存储到向量数据库
查询：嵌入问题 → 检索排名靠前的 K 个分块 → 放入提示词 → LLM
引用：为分块添加 ID；要求 LLM 进行引用

Step 1: Load and Chunk

from langchain.text_splitter import RecursiveCharacterTextSplitter
from pypdf import PdfReader

text = ''
for page in PdfReader('handbook.pdf').pages:
    text += page.extract_text() + '\n'

splitter = RecursiveCharacterTextSplitter(chunk_size=800, chunk_overlap=100)
chunks = splitter.split_text(text)
print(f'{len(chunks)} chunks')

Step 2: Embed and Store

import chromadb
from openai import OpenAI

oai = OpenAI()
chroma = chromadb.PersistentClient(path='./db')
collection = chroma.get_or_create_collection('handbook')

resp = oai.embeddings.create(model='text-embedding-3-small', input=chunks)
vectors = [d.embedding for d in resp.data]
collection.add(ids=[f'c{i}' for i in range(len(chunks))], embeddings=vectors, documents=chunks)

Step 3: Query Function

def query(question, k=4):
    qvec = oai.embeddings.create(model='text-embedding-3-small', input=question).data[0].embedding
    res = collection.query(query_embeddings=[qvec], n_results=k)
    return res['documents'][0]

Step 4: Build the Prompt

def make_prompt(question, chunks):
    context = '\n\n'.join(f'[{i+1}] {c}' for i, c in enumerate(chunks))
    return f'''
Using only the context below, answer the question.
If the answer is not present, say so.
Cite the source like [1], [2], etc.

Context:
{context}

Question: {question}
Answer:
'''

print(make_prompt("What is the return policy?", ["Returns accepted within 30 days.", "Item must be unused."]))

Step 5: Generate

def answer(question):
    chunks = query(question)
    prompt = make_prompt(question, chunks)
    response = oai.chat.completions.create(
        model='gpt-4o-mini',
        messages=[{'role': 'user', 'content': prompt}],
        temperature=0,
    )
    return response.choices[0].message.content

print(answer('What is our refund policy?'))

接入用户界面

将其封装在 FastAPI 和一个简单的 HTML 页面（或 Streamlit）中，您就拥有了一个可运行的应用。

# pip install fastapi uvicorn
from fastapi import FastAPI
app = FastAPI()

@app.post('/ask')
def ask(payload: dict):
    return {'answer': answer(payload['question'])}

添加聊天记录

对于多轮问答，请保留消息并将其传入提示词：

messages = [{'role': 'system', 'content': 'You are a doc Q&A assistant.'}]

def chat(user_input):
    messages.append({'role': 'user', 'content': user_input})
    chunks = query(user_input)
    context_msg = {'role': 'system', 'content': f'Context:\n{chr(10).join(chunks)}'}
    response = oai.chat.completions.create(
        model='gpt-4o-mini',
        messages=[messages[0], context_msg] + messages[1:]
    )
    answer = response.choices[0].message.content
    messages.append({'role': 'assistant', 'content': answer})
    return answer

常见陷阱

分块过大或过小——尝试使用 500–800 个令牌
没有来源引用——用户不会信任没有引用来源的回答
K 过大——浪费令牌并分散注意力
嵌入包含聊天记录的整个问题——只嵌入用户最新的问题

添加来源链接

将来源 URL 存储在元数据中，并在回答中展示：

metadata = [{'source': 'handbook.pdf', 'page': i} for i in range(len(chunks))]
# In the prompt, include 'source: <url>' so the LLM can produce clickable references.

进行评估

从用户那里收集 20 个真实问题。手动标记机器人是否回答正确。将其作为您的初始评估集。

发布并迭代

这个机器人投入生产后，可以处理 80% 的常见问题。根据它答错的 20% 进行迭代——通常您需要改进分块或重新排序。

来源引用

为什么要在提示词中包含来源 ID，并要求 LLM 进行引用？

回顾

大约 50 行代码即可构建 RAG 机器人。发布后进行评估，并持续改进分块和检索。这种模式会在无数代理应用中重复出现。

常见问题解答

「基于您的文档构建问答机器人」课时是免费的吗？

是的 — 「基于您的文档构建问答机器人」的完整文本可在网页上免费阅读。要进行交互式练习（内置代码编辑器和全天候 AI 导师）并解锁 AI Agents 课程的其余内容，请升级到 CoddyKit PRO。 AI Agents 课程共包含 4 节课。

「基于您的文档构建问答机器人」这节课中我会学到什么？

交付一个可用的 RAG 机器人：导入 PDF、生成嵌入、搜索并生成回答。这是生产级智能体的“你好，世界”。你通过在浏览器中直接运行的动手代码来练习 AI Agents，全天候 AI 导师会在你学习这节课的过程中回答你的问题。

学习 AI Agents 需要有经验吗？

无需任何先前经验。CoddyKit 上的 AI Agents 课程适合初学者到高级学习者，你可以从这里开始或从头开始，按照自己的节奏学习。这是第 1 节课，共 4 节。

「基于您的文档构建问答机器人」课时需要多长时间？

大多数 CoddyKit 课程大约需要 5–10 分钟。每节课都很精短且互动，所以你能稳步进步，并在网页和应用中从离开的地方继续。

我能在这节 AI Agents 课中编写并运行代码吗？

能。每节 AI Agents 课都包含内置代码编辑器，你可以在浏览器中直接编写并运行真实代码，并获得即时 AI 反馈 — 无需本地设置。

此课程中的所有课时

← 返回 AI Agents