AI Agents · 课时

使用 FAISS 或 Chroma 构建朴素 RAG

编写 40 行 Python：为查询生成嵌入，获取最近的前 K 个分块，将其填入提示词，然后询问 LLM。

使用 FAISS 或 Chroma 构建朴素 RAG 是 CoddyKit 上的免费 AI Agents 课时。这是第 4 节课，共 4 节。你可以在下方免费阅读本课时的完整内容 — 然后在浏览器中使用内置代码编辑器和全天候 AI 导师进行实践。这是 AI Agents 学习路径的一部分，你的进度在网页和 CoddyKit 应用中同步。 AI Agents 课程共包含 4 节课。

本课时的部分内容尚未翻译，以英文显示。

40 行 RAG

现在您已经具备了所有组件。接下来，我们会将它们组装起来，针对一小组文档构建一个可运行的朴素 RAG。

Step 1: Install

# pip install openai chromadb

Step 2: Sample Corpus

docs = [
    'Python is a high-level interpreted programming language created by Guido van Rossum in 1991.',
    'Pizza is a savory dish of Italian origin consisting of a round flat base of dough.',
    'The Eiffel Tower is a wrought-iron lattice tower in Paris, France, completed in 1889.',
    'NumPy is a Python library used for working with arrays and numerical computing.',
    'The Great Wall of China is a series of fortifications built across northern China.'
]
print(f"Loaded {len(docs)} documents")
for i, d in enumerate(docs):
    print(f"{i+1}. {d[:50]}...")

Step 3: Set Up Chroma

import chromadb
from openai import OpenAI

client = chromadb.Client()
collection = client.create_collection('demo')
openai_client = OpenAI()

Step 4: Embed and Store

embed_response = openai_client.embeddings.create(
    model='text-embedding-3-small',
    input=docs
)
vectors = [d.embedding for d in embed_response.data]

collection.add(
    ids=[f'd{i}' for i in range(len(docs))],
    embeddings=vectors,
    documents=docs
)

Step 5: Embed the Query

query = 'Tell me about Python programming'
query_vec = openai_client.embeddings.create(
    model='text-embedding-3-small',
    input=query
).data[0].embedding

Step 6: Retrieve Top-K

results = collection.query(
    query_embeddings=[query_vec],
    n_results=2
)
retrieved = results['documents'][0]
print(retrieved)
# ['Python is a high-level...', 'NumPy is a Python library...']

Step 7: Build the RAG Prompt

context = '\n'.join(f'- {chunk}' for chunk in retrieved)
prompt = f'''
Using only the context below, answer the question. If unknown, say so.

Context:
{context}

Question: {query}
'''

Step 8: Call the LLM

response = openai_client.chat.completions.create(
    model='gpt-4o-mini',
    messages=[{'role': 'user', 'content': prompt}],
    temperature=0,
)
print(response.choices[0].message.content)

FAISS 替代方案

如果您希望完全在本地运行且不使用数据库服务器，FAISS 会更加简单：

import faiss
import numpy as np

index = faiss.IndexFlatIP(1536)  # inner product, normalised vectors
index.add(np.array(vectors).astype('float32'))

D, I = index.search(np.array([query_vec]).astype('float32'), k=2)
retrieved = [docs[i] for i in I[0]]

此朴素 RAG 的局限性

没有分块——只能处理较短的文档
没有重新排序
没有元数据过滤
没有评估

我们会在后续课程中解决所有这些问题。

每次查询的成本

每次发起查询时：

1 次嵌入调用（约 0.00002 美元）
1 次聊天补全调用，包含约 500 个令牌的上下文（约 0.0001 美元）

总计：每个问题约为 1 美分的百分之一。

发布并持续迭代

这段仅有 40 行的 RAG，在基于您的数据进行事实问答时，已经胜过大多数没有上下文的聊天机器人。将它发布上线，观察用户如何让它出错，然后在最需要的地方加入高级技术。

朴素 RAG 的前 K 项

“前 K 项”检索是什么意思？

回顾

您已经构建了 RAG。接下来，我们将了解能够将它扩展到单台笔记本电脑之外的向量数据库。

常见问题解答

「使用 FAISS 或 Chroma 构建朴素 RAG」课时是免费的吗？

是的 — 「使用 FAISS 或 Chroma 构建朴素 RAG」的完整文本可在网页上免费阅读。要进行交互式练习（内置代码编辑器和全天候 AI 导师）并解锁 AI Agents 课程的其余内容，请升级到 CoddyKit PRO。 AI Agents 课程共包含 4 节课。

「使用 FAISS 或 Chroma 构建朴素 RAG」这节课中我会学到什么？

编写 40 行 Python：为查询生成嵌入，获取最近的前 K 个分块，将其填入提示词，然后询问 LLM。你通过在浏览器中直接运行的动手代码来练习 AI Agents，全天候 AI 导师会在你学习这节课的过程中回答你的问题。

学习 AI Agents 需要有经验吗？

无需任何先前经验。CoddyKit 上的 AI Agents 课程适合初学者到高级学习者，你可以从这里开始或从头开始，按照自己的节奏学习。这是第 4 节课，共 4 节。

「使用 FAISS 或 Chroma 构建朴素 RAG」课时需要多长时间？

大多数 CoddyKit 课程大约需要 5–10 分钟。每节课都很精短且互动，所以你能稳步进步，并在网页和应用中从离开的地方继续。

我能在这节 AI Agents 课中编写并运行代码吗？

能。每节 AI Agents 课都包含内置代码编辑器，你可以在浏览器中直接编写并运行真实代码，并获得即时 AI 反馈 — 无需本地设置。

此课程中的所有课时

← 返回 AI Agents