Abfrageumschreibung und Neuranking
Erkunden Sie Techniken zur Optimierung von Benutzerabfragen und zum Neuranking abgerufener Dokumente, um deren Relevanz für das LLM zu erhöhen.
Abfrageumschreibung und Neuranking ist eine kostenlose LLM Apps in Production (RAG + Vector DB + Caching)-Lektion auf CoddyKit. Dies ist Lektion 1 von 4. Du kannst die komplette Lektion unten kostenlos lesen – dann übst du sie direkt im Browser mit einem integrierten Code-Editor und einem KI-Tutor rund um die Uhr. Sie ist Teil des LLM Apps in Production (RAG + Vector DB + Caching)-Lernpfads, und dein Fortschritt wird über Web und CoddyKit-App synchronisiert. Der LLM Apps in Production (RAG + Vector DB + Caching)-Kurs umfasst insgesamt 4 Lektionen.
Teile dieser Lektion wurden noch nicht übersetzt und werden auf Englisch angezeigt.
Optimizing Queries for RAG
Welcome to advanced RAG techniques! In this lesson, we'll explore two powerful methods to make your Retrieval Augmented Generation (RAG) system even smarter: Query Rewriting and Reranking.
These techniques help ensure your LLM gets the most relevant information possible, leading to better and more accurate responses.
Why Raw Queries Fall Short
When a user asks a question, their initial query might not be perfect for searching your knowledge base. It could be:
- Too short or vague: Lacking specific keywords.
- Ambiguous: Having multiple possible meanings.
- Missing synonyms: Not using the exact terms found in your documents.
This can lead to your retriever fetching less relevant documents.
Understanding Query Rewriting
Query rewriting is the process of modifying the user's original query before it's sent to your document retriever.
The goal is to transform the query into a more effective search term that is more likely to match relevant documents in your vector database.
Techniques for Rewriting Queries
Query rewriting can involve several strategies:
- Query Expansion: Adding synonyms or related terms to broaden the search.
- Query Rephrasing: Changing the query's structure or wording to improve clarity.
- Query Decomposition: Breaking a complex, multi-part query into simpler, individual sub-queries.
Often, another LLM is used to perform these rewriting tasks.
Code: Simple Query Rewriting
Here's a conceptual Python example of how a simple query expansion might work. In a real system, an LLM would do the heavy lifting.
class QueryRewriter:
def rewrite(self, query):
# Simulate an LLM or a rule-based system
if "LLM performance" in query:
return query + " large language model efficiency optimization"
if "vector db" in query:
return query + " vector database semantic search"
return query
rewriter = QueryRewriter()
user_query_1 = "improve LLM performance"
rewritten_1 = rewriter.rewrite(user_query_1)
print(f"Original 1: {user_query_1}")
print(f"Rewritten 1: {rewritten_1}\n")
user_query_2 = "how to use vector db"
rewritten_2 = rewriter.rewrite(user_query_2)
print(f"Original 2: {user_query_2}")
print(f"Rewritten 2: {rewritten_2}")Why We Need Reranking
Even after a great initial search (perhaps with a rewritten query!), the top 'N' documents returned by your retriever might not be perfectly ordered by relevance.
The retriever's job is often to find potential matches. Reranking steps in to refine this order, ensuring the absolute best documents are at the very top.
The Reranking Process
Reranking works like this:
- Your initial retriever fetches a larger set of candidate documents (e.g., top 50).
- A specialized reranker model then takes each of these candidate documents, along with the original user query, and provides a more precise relevance score.
- The documents are then sorted again based on these new, more accurate scores.
This ensures the most relevant documents are passed to the LLM.
Specialized Reranking Models
Unlike a retriever that often uses embeddings for approximate similarity, rerankers typically use more sophisticated models, often called cross-encoders.
- Cross-encoders take both the query AND a document as input.
- They consider the interaction between the query and document terms directly.
- This allows for a much more nuanced understanding of relevance, though it's computationally more intensive, hence why it's only applied to a smaller subset of documents.
Code: Simulating Reranking
This example shows how a reranker might re-score and reorder an initially retrieved list of documents based on their relevance to the query.
class Reranker:
def rerank(self, query, documents):
# Simulate a cross-encoder model scoring documents
scores = {}
for doc in documents:
if "vector database" in doc.lower() and "fast" in query.lower():
scores[doc] = 0.95 # Highly relevant
elif "llm" in doc.lower() and "improve" in query.lower():
scores[doc] = 0.85
elif "database" in doc.lower():
scores[doc] = 0.7
else:
scores[doc] = 0.3 # Less relevant
# Sort documents by score in descending order
sorted_docs = sorted(documents, key=lambda d: scores.get(d, 0), reverse=True)
return sorted_docs
reranker = Reranker()
user_query = "How to build a fast vector database?"
initial_docs = [
"Introduction to LLMs",
"Building a scalable vector database",
"Optimizing LLM inference",
"Fast data ingestion for databases"
]
reranked_docs = reranker.rerank(user_query, initial_docs)
print(f"Original documents: {initial_docs}\n")
print("Reranked documents (most relevant first):")
for doc in reranked_docs:
print(f"- {doc}")The Power of Combination
The true power comes from combining both techniques:
- First, Query Rewriting creates a better search query.
- Then, your retriever uses this improved query to fetch a broader, more relevant set of documents.
- Finally, Reranking fine-tunes the order of these documents, ensuring the LLM receives the absolute best context to generate a response.
This multi-stage approach significantly boosts the quality and accuracy of your RAG system.
Check Your Understanding
Time to test what you've learned about optimizing RAG through query rewriting and reranking.
Recap & Next Steps
Great job! In this lesson, you learned about Query Rewriting and Reranking.
- Query Rewriting modifies the user's input to create a more effective search query.
- Reranking reorders initially retrieved documents using a more precise model to surface the most relevant ones.
Together, these techniques significantly enhance the quality and accuracy of your RAG applications. Next, we'll explore even more advanced RAG architectures!
Lerne LLM Apps in Production (RAG + Vector DB + Caching) mit einem KI-Tutor — kostenlos
Schreibe und führe echten Code in deinem Browser aus, bekomme sofortige Hilfe von einem 24/7 KI-Tutor und setze dein Lernen im Web oder in der App fort.
- Kurse
- 12
- Lektionen
- 48
Häufig gestellte Fragen
Ist die Lektion „Abfrageumschreibung und Neuranking“ kostenlos?
Ja — der vollständige Text von „Abfrageumschreibung und Neuranking“ ist hier im Web kostenlos zu lesen. Um sie interaktiv zu üben (integrierter Code-Editor und 24/7 KI-Tutor) und den Rest des LLM Apps in Production (RAG + Vector DB + Caching)-Kurses freizuschalten, upgrade auf CoddyKit PRO. Der LLM Apps in Production (RAG + Vector DB + Caching)-Kurs umfasst insgesamt 4 Lektionen.
Was lerne ich in „Abfrageumschreibung und Neuranking“?
Erkunden Sie Techniken zur Optimierung von Benutzerabfragen und zum Neuranking abgerufener Dokumente, um deren Relevanz für das LLM zu erhöhen. Du übst LLM Apps in Production (RAG + Vector DB + Caching) mit praktischem Code, den du direkt im Browser ausführst, und ein 24/7 KI-Tutor beantwortet deine Fragen während du die Lektion bearbeitest.
Brauche ich Erfahrung, um LLM Apps in Production (RAG + Vector DB + Caching) zu starten?
Keine Vorkenntnisse erforderlich. LLM Apps in Production (RAG + Vector DB + Caching) auf CoddyKit ist für Anfänger bis fortgeschrittene Lernende strukturiert, sodass du hier starten oder von Anfang an beginnen und in deinem eigenen Tempo voranschreiten kannst. Dies ist Lektion 1 von 4.
Wie lange dauert die Lektion „Abfrageumschreibung und Neuranking“?
Die meisten CoddyKit-Lektionen dauern etwa 5–10 Minuten. Jede ist kompakt und interaktiv, sodass du stetig Fortschritte machst und genau dort weitermachst, wo du aufgehört hast – im Web und in der App.
Kann ich in dieser LLM Apps in Production (RAG + Vector DB + Caching)-Lektion Code schreiben und ausführen?
Ja. Jede LLM Apps in Production (RAG + Vector DB + Caching)-Lektion enthält einen integrierten Code-Editor, sodass du echten Code direkt in deinem Browser schreibst und ausführst und sofort KI-Feedback erhältst — ohne lokale Einrichtung erforderlich.
Alle Lektionen in diesem Kurs
- Abfrageumschreibung und Neuranking
- Mehrstufige und agentische RAG-Muster
- Komplexe Dokumentstrukturen verarbeiten
- Self-Querying und Quellenangaben