Generowanie wspomagane wyszukiwaniem (RAG)

Witamy w świecie generowania wspomaganego wyszukiwaniem (Retrieval Augmented Generation, RAG)! Ta lekcja przedstawia zaawansowaną technikę zwiększania dokładności i niezawodności dużych modeli językowych (LLM-ów).

RAG łączy ogromną wiedzę LLM-ów z aktualnymi informacjami zewnętrznymi. To tak, jakby dać LLM-owi otwartą książkę podczas trudnego egzaminu!

Podstawowe LLM-y, choć imponujące, mają pewne ograniczenia:

• Halucynacje: Czasami mogą generować informacje niezgodne z faktami lub pozbawione sensu.
• Nieaktualna wiedza: Ich wiedza kończy się na dacie odcięcia danych treningowych.
• Brak szczegółowości: Mogą nie znać niszowych lub prywatnych faktów specyficznych dla danej dziedziny.
• Brak cytowań: Nie potrafią łatwo wskazać, skąd pochodzą ich informacje.

RAG eliminuje te ograniczenia, integrując system wyszukiwania z generatywnym LLM-em.

Zanim LLM wygeneruje odpowiedź, RAG najpierw pobiera istotne informacje z zaufanej zewnętrznej bazy wiedzy. Następnie pobrane informacje „wzbogacają” (ulepszają) prompt przekazywany do LLM-a.

Pierwszym krokiem w RAG jest wyszukiwanie. Gdy użytkownik zadaje pytanie, do działania przystępuje dedykowany komponent „retriever”.

• Analizuje zapytanie użytkownika.
• Przeszukuje dużą zewnętrzną bazę wiedzy (np. dokumenty, bazy danych, strony internetowe).
• Wskazuje i pobiera najbardziej istotne fragmenty informacji lub „dokumenty” związane z zapytaniem.

Po pobraniu istotnych informacji kolejnym krokiem jest wzbogacanie.

• Fragmenty pobranego tekstu są bezpośrednio wstawiane do oryginalnego promptu użytkownika.
• Tworzy to „wzbogacony prompt”, który zawiera teraz zarówno żądanie użytkownika, jak i kontekst faktograficzny.
• Ten wzbogacony prompt dostarcza LLM-owi konkretnych danych potrzebnych do sformułowania dokładnej odpowiedzi.

Na końcu następuje etap generowania. Duży model językowy otrzymuje wzbogacony prompt.

• Po jawnym przekazaniu odpowiedniego kontekstu LLM generuje odpowiedź.
• Jest instruowany, aby opierać odpowiedź przede wszystkim na dostarczonych informacjach, zamiast polegać wyłącznie na wiedzy zdobytej podczas treningu.
• Prowadzi to do uzyskiwania bardziej wiarygodnych, opartych na faktach i weryfikowalnych wyników.

Wdrożenie RAG oferuje kilka istotnych korzyści:

• Ograniczenie halucynacji: Odpowiedzi LLM-ów są zakotwiczone w faktach z bazy wiedzy.
• Aktualne informacje: Dostęp do bieżących danych wykraczających poza datę odcięcia danych treningowych LLM-a.
• Dane specyficzne dla dziedziny: Łatwa integracja prywatnych lub wyspecjalizowanych danych organizacji.
• Wyjaśnialność: System często może podawać źródła, z których pobrano informacje.

Prześledźmy prostą interakcję RAG:

1. Zapytanie użytkownika: „Kiedy ukończono budowę Wieży Eiffla?”
2. Wyszukiwanie: System przeszukuje bazę danych zawierającą fakty historyczne i znajduje informację: „Wieżę Eiffla ukończono 31 marca 1889 roku”.
3. Wzbogacanie: Prompt staje się następujący: „Na podstawie następujących informacji: «Wieżę Eiffla ukończono 31 marca 1889 roku», kiedy ją ukończono?”
4. Generowanie: LLM odpowiada: „Wieżę Eiffla ukończono 31 marca 1889 roku”.

U podstaw system RAG składa się z dwóch głównych komponentów logicznych:

• Moduł wyszukujący (retriever): Ten komponent odpowiada za wyszukiwanie i pobieranie najbardziej istotnych dokumentów lub fragmentów danych z zewnętrznej bazy wiedzy na podstawie zapytania użytkownika.
• Generator: Jest nim sam duży model językowy (LLM), który łączy oryginalne zapytanie użytkownika z pobranym kontekstem, aby wygenerować spójną i opartą na informacjach odpowiedź.

Które z poniższych stwierdzeń opisują najważniejsze korzyści korzystania z generowania wspomaganego wyszukiwaniem (RAG) w przypadku LLM-ów?

Poznali już Państwo podstawową koncepcję i architekturę generowania wspomaganego wyszukiwaniem (RAG). RAG to kluczowa technika tworzenia bardziej niezawodnych, opartych na faktach i świadomych kontekstu aplikacji wykorzystujących LLM-y.

Dzięki połączeniu wyszukiwania z generowaniem RAG umożliwia LLM-om korzystanie z dynamicznych danych zewnętrznych i udzielanie odpowiedzi na ich podstawie. Następnie przyjrzymy się temu, jak bazy danych wektorowych odgrywają kluczową rolę w wydajnym wyszukiwaniu na potrzeby systemów RAG!