Almacenes vectoriales: Chroma y FAISS

Un almacén vectorial contiene sus fragmentos convertidos en embeddings y encuentra los más similares a un vector de consulta. Es el motor de búsqueda en el núcleo de RAG. Dos opciones populares son Chroma y FAISS.

Chroma.from_documents genera los embeddings de sus fragmentos y los indexa en una sola llamada. Pase los documentos y un objeto de embeddings. Chroma devuelve un almacén en el que puede buscar inmediatamente.

Pase persist_directory para que el índice se guarde en disco y sobreviva a los reinicios. Vuelva a cargarlo más adelante construyendo Chroma con el mismo directorio y los mismos embeddings, evitando el coste de generarlos de nuevo.

Realice consultas con similarity_search(query, k=4). Genera el embedding de la consulta, encuentra los k fragmentos más cercanos y los devuelve como Documents. k controla cuántos pasajes se recuperan.

Use similarity_search_with_score para obtener también una puntuación de distancia por cada resultado. Una distancia menor significa una mayor similitud. Las puntuaciones le ayudan a filtrar las coincidencias débiles antes de enviarlas al LLM.

FAISS (Facebook AI Similarity Search) es una biblioteca de alto rendimiento para búsquedas vectoriales. Es extremadamente rápida y eficiente en el uso de memoria, ideal para índices locales grandes sin un servidor independiente.

La API refleja la de Chroma: FAISS.from_documents crea el índice. FAISS mantiene el índice en memoria, por lo que es excelente para búsquedas intensivas en lectura dentro del proceso.

Persista un índice de FAISS con save_local y vuelva a cargarlo con load_local. La recarga requiere allow_dangerous_deserialization=True porque el índice utiliza pickle.

Una búsqueda simple por similitud puede devolver cuatro fragmentos prácticamente idénticos. A veces necesita resultados diversos que cubran distintos aspectos de la respuesta. Ahí es donde MMR resulta útil.

Maximal Marginal Relevance (MMR) equilibra la relevancia y la diversidad, seleccionando fragmentos relevantes pero no redundantes. Use search_type="mmr" mediante la interfaz del recuperador.

Chroma es fácil de usar, persistente y adecuado para prototipos y aplicaciones pequeñas. FAISS es más rápido a gran escala e ideal para búsquedas en memoria. Ambos ofrecen similarity_search y as_retriever, por lo que cambiar de uno a otro es sencillo.

Compruebe sus conocimientos sobre almacenes vectoriales.

Creó almacenes vectoriales con Chroma.from_documents (usando persist_directory) y FAISS.from_documents, realizó búsquedas con similarity_search(query, k=4) y guardó y cargó ambos. Usó as_retriever con MMR para obtener resultados diversos y aprendió cuándo elegir cada almacén.