Vector Databases: Pinecone, Weaviate & pgvector · Lekcja

Techniki transformacji zapytań

Pozna Pan/Pani metody przeformułowywania lub rozszerzania zapytań użytkowników, aby skuteczniej pobierać dane z bazy wektorowej.

Techniki transformacji zapytań to bezpłatna lekcja Vector Databases: Pinecone, Weaviate & pgvector na CoddyKit. To lekcja 1 z 4. Możesz przeczytać całą lekcję poniżej za darmo — a potem ćwiczyć ją interaktywnie w przeglądarce z wbudowanym edytorem kodu i tutorem AI dostępnym 24/7. To część ścieżki edukacyjnej Vector Databases: Pinecone, Weaviate & pgvector, a Twój postęp synchronizuje się między webem a aplikacją CoddyKit. Kurs Vector Databases: Pinecone, Weaviate & pgvector zawiera 4 lekcji w sumie.

Części tej lekcji nie zostały jeszcze przetłumaczone i są wyświetlane po angielsku.

What's Query Transformation?

In Retrieval Augmented Generation (RAG), the quality of the information retrieved from your vector database directly impacts the LLM's response. Sometimes, the raw user query isn't ideal for retrieval.

Query transformation is the process of modifying a user's original query to make it more effective for searching your vector database.

Why Original Queries Fall Short

User queries can be:

Too short or vague: Lacking enough detail for precise retrieval.
Ambiguous: Open to multiple interpretations.
Colloquial: Using informal language that doesn't match document embeddings.
Complex: Asking multiple questions at once.

These issues lead to irrelevant context being retrieved, impacting RAG quality.

Bridging the Semantic Gap

Your vector database stores information as numerical vectors (embeddings). For effective retrieval, the query's embedding needs to be semantically similar to the embeddings of relevant documents.

Query transformation helps by:

Adding more context.
Clarifying intent.
Aligning query terms with document vocabulary.

This "bridges the semantic gap" for better matches.

Technique 1: Query Expansion

Query expansion involves adding more terms or phrases to the original query. This makes the search broader and increases the chances of hitting relevant documents.

Common methods include:

Adding synonyms.
Including related concepts.
Using domain-specific jargon.

This technique is especially useful for short, vague queries.

Simple Keyword Expansion

Here's a basic Python example where we manually expand a query with related terms. In real systems, an LLM might generate these expansions automatically.

def expand_query_keywords(query):
    expansion_map = {
        "AI": ["artificial intelligence", "machine learning", "deep learning"],
        "vector DB": ["vector database", "embedding store", "Pinecone", "Weaviate"]
    }
    expanded_terms = []
    for keyword, additions in expansion_map.items():
        if keyword.lower() in query.lower():
            expanded_terms.extend(additions)
    
    return query + " " + " ".join(expanded_terms)

# Example usage
user_query = "What is AI?"
transformed_query = expand_query_keywords(user_query)
print(f"Original: {user_query}")
print(f"Transformed: {transformed_query}")

Technique 2: Query Rewriting/Rephrasing

Query rewriting (or rephrasing) uses an LLM to generate a completely new query that is clearer, more specific, or better aligned with the expected content of your documents.

This is particularly effective for:

Ambiguous questions.
Conversational queries.
Queries that implicitly refer to past turns in a conversation.

Rewriting with an LLM

This Python snippet demonstrates how you might use an LLM to rephrase a user query. In a real application, llm_api_call would interact with models like OpenAI GPT or a local LLM.

import os

# Placeholder for an actual LLM API call
def llm_api_call(prompt):
    # For demonstration, we'll simulate a response.
    if "rephrase" in prompt.lower() and "vector databases" in prompt.lower():
        return "Explain the core components and function of vector databases."
    return "Could not rephrase query effectively."

def rephrase_query_with_llm(original_query):
    prompt = f"Rephrase the following user query to be more effective for searching a technical documentation database about vector databases: '{original_query}'"
    rephrased_query = llm_api_call(prompt)
    return rephrased_query

# Example usage
user_query = "Tell me about vector DBs."
transformed_query = rephrase_query_with_llm(user_query)
print(f"Original: {user_query}")
print(f"Transformed: {transformed_query}")

Technique 3: Sub-Query Generation

When a user asks a complex question that involves multiple aspects, a single query might not retrieve all necessary information. Sub-query generation breaks down a complex query into several simpler, more focused queries.

Each sub-query can then be used to retrieve specific pieces of context, which are then combined for the LLM.

Generating Sub-Queries

Here's a conceptual Python example for generating sub-queries. An LLM is often used to parse the original query and identify distinct questions.

import os

# Placeholder for an actual LLM API call
def llm_api_call_sub_query(prompt):
    if "break down" in prompt.lower() and "Pinecone" in prompt.lower():
        return ["What is Pinecone?", "How do I upsert data into Pinecone?", "What is a Pinecone index?"]
    return ["Could not break down query."]

def generate_sub_queries(original_query):
    prompt = f"Break down the following complex user query into a list of simpler, distinct questions for retrieving information from a vector database: '{original_query}'"
    sub_queries = llm_api_call_sub_query(prompt)
    return sub_queries

# Example usage
user_query = "How do I use Pinecone for storing and querying embeddings?"
transformed_queries = generate_sub_queries(user_query)
print(f"Original: {user_query}")
print(f"Sub-queries: {transformed_queries}")

Hybrid & Contextual Transformations

Effective RAG often combines these techniques. You might first rephrase a query, then expand it. Also, consider the conversational context.

Multi-turn awareness: Use previous turns to enrich the current query.
Hybrid approaches: Combine transformations with traditional keyword search.

Experimentation is key to finding what works best for your data!

Understanding Query Transformation

Which of the following scenarios would MOST benefit from using query expansion as a transformation technique?

Recap: Transforming Queries

You've learned that query transformation is crucial for improving RAG performance by making user queries more effective for vector database retrieval.

Query Expansion: Adds terms to broaden search.
Query Rewriting: Rephrases for clarity and specificity.
Sub-Query Generation: Breaks down complex queries.

Mastering these techniques will significantly enhance the quality of your RAG applications!

Często zadawane pytania

Czy lekcja „Techniki transformacji zapytań” jest bezpłatna?

Tak — pełny tekst „Techniki transformacji zapytań” jest dostępny za darmo tutaj w sieci. Aby ćwiczyć ją interaktywnie (wbudowany edytor kodu i tutor AI dostępny 24/7) i odblokować resztę kursu Vector Databases: Pinecone, Weaviate & pgvector, przejdź na CoddyKit PRO. Kurs Vector Databases: Pinecone, Weaviate & pgvector zawiera 4 lekcji w sumie.

Co nauczysz się w „Techniki transformacji zapytań”?

Pozna Pan/Pani metody przeformułowywania lub rozszerzania zapytań użytkowników, aby skuteczniej pobierać dane z bazy wektorowej. Ćwiczysz Vector Databases: Pinecone, Weaviate & pgvector z praktycznym kodem, który uruchamiasz bezpośrednio w przeglądarce, a tutor AI dostępny 24/7 odpowiada na Twoje pytania podczas pracy nad lekcją.

Czy potrzebuję doświadczenia, aby zacząć Vector Databases: Pinecone, Weaviate & pgvector?

Nie wymagamy żadnego doświadczenia. Vector Databases: Pinecone, Weaviate & pgvector w CoddyKit jest strukturyzowany dla początkujących i zaawansowanych użytkowników, więc możesz zacząć tutaj lub od początku i uczyć się w swoim tempie. To lekcja 1 z 4.

Ile czasu zajmuje lekcja „Techniki transformacji zapytań”?

Większość lekcji CoddyKit trwa około 5–10 minut. Każda lekcja to mały, interaktywny krok, dzięki czemu robisz systematyczne postępy i zawsze wracasz dokładnie do tego samego miejsca — na webie i w aplikacji.

Czy mogę pisać i uruchamiać kod w tej lekcji Vector Databases: Pinecone, Weaviate & pgvector?

Tak. Każda lekcja Vector Databases: Pinecone, Weaviate & pgvector zawiera wbudowany edytor kodu, więc piszesz i uruchamiasz prawdziwy kod bezpośrednio w przeglądarce i od razu otrzymujesz sprzężenie zwrotne od AI — bez konfiguracji na komputerze.

Wszystkie lekcje w tym kursie

← Powrót do Vector Databases: Pinecone, Weaviate & pgvector