Generación aumentada mediante recuperación (RAG)

¡Bienvenido a Retrieval Augmented Generation (RAG)! En esta lección se presenta una técnica potente para hacer que los modelos de lenguaje de gran tamaño (LLM) sean más precisos y fiables.

RAG combina el amplio conocimiento de los LLM con información externa y actualizada. ¡Es como darle a un LLM un libro abierto durante un examen difícil!

Los LLM básicos, aunque impresionantes, tienen algunas limitaciones:

• Alucinaciones: A veces pueden generar información objetivamente incorrecta o sin sentido.
• Conocimientos desactualizados: Sus conocimientos están limitados a la fecha de corte de sus datos de entrenamiento.
• Falta de especificidad: Es posible que no conozcan datos especializados o privados de un dominio concreto.
• Sin citas: No pueden indicar fácilmente de dónde procede su información.

RAG aborda estas limitaciones al integrar un sistema de recuperación con un LLM generativo.

Antes de que el LLM genere una respuesta, RAG recupera primero información relevante de una base de conocimientos externa y fiable. A continuación, esta información recuperada «amplía» (mejora) el prompt que se proporciona al LLM.

El primer paso de RAG es la recuperación. Cuando un usuario hace una pregunta, entra en acción un componente especializado denominado «recuperador».

• Analiza la consulta del usuario.
• Busca en una amplia base de conocimientos externa (por ejemplo, documentos, bases de datos o páginas web).
• Identifica y obtiene los fragmentos de información o «documentos» más relevantes relacionados con la consulta.

Una vez recuperada la información relevante, el siguiente paso es la ampliación.

• Los fragmentos de texto recuperados se insertan directamente en el prompt original del usuario.
• Esto crea un «prompt ampliado» que ahora contiene tanto la solicitud del usuario como el contexto factual.
• Este prompt enriquecido proporciona al LLM los datos específicos que necesita para formular una respuesta precisa.

Por último, tiene lugar el paso de generación. El modelo de lenguaje de gran tamaño recibe el prompt ampliado.

• Con el contexto relevante proporcionado explícitamente, el LLM genera su respuesta.
• Se le indica que base su respuesta principalmente en la información proporcionada, en lugar de depender únicamente de sus conocimientos preentrenados.
• Esto produce resultados más fundamentados, objetivos y verificables.

Implementar RAG ofrece varias ventajas importantes:

• Menos alucinaciones: Las respuestas del LLM se basan en hechos de la base de conocimientos.
• Información actualizada: Permite acceder a datos actuales que van más allá de la fecha de corte del entrenamiento del LLM.
• Especificidad del dominio: Permite integrar fácilmente datos privados o especializados de una organización.
• Explicabilidad: El sistema a menudo puede citar las fuentes de las que se recuperó la información.

Visualicemos una interacción sencilla con RAG:

1. Consulta del usuario: «¿Cuándo se terminó la Torre Eiffel?»
2. Recuperación: El sistema busca en una base de datos de hechos históricos y encuentra «La Torre Eiffel se terminó el 31 de marzo de 1889».
3. Ampliación: El prompt se convierte en: «Según la siguiente información: "La Torre Eiffel se terminó el 31 de marzo de 1889", ¿cuándo se terminó?»
4. Generación: El LLM responde: «La Torre Eiffel se terminó el 31 de marzo de 1889».

En esencia, un sistema RAG consta de dos componentes lógicos principales:

• El recuperador: Este componente se encarga de buscar y obtener los documentos o fragmentos de datos más relevantes de una base de conocimientos externa a partir de la consulta del usuario.
• El generador: Este es el propio modelo de lenguaje de gran tamaño (LLM), que combina la consulta original del usuario con el contexto recuperado para producir una respuesta coherente e informada.

¿Cuáles de las siguientes son ventajas clave de utilizar Retrieval Augmented Generation (RAG) con LLM?

Ahora ha aprendido el concepto central y la arquitectura de Retrieval Augmented Generation (RAG). RAG es una técnica fundamental para crear aplicaciones de LLM más fiables, objetivas y conscientes del contexto.

Al combinar la recuperación con la generación, RAG permite a los LLM interactuar con datos externos dinámicos y proporcionar respuestas basadas en ellos. A continuación, exploraremos cómo las bases de datos vectoriales desempeñan un papel fundamental en la recuperación eficiente para los sistemas RAG.