Wyszukiwanie nadrzędny–podrzędny i od małego do dużego

Systemy RAG muszą równoważyć dwie potrzeby: małe fragmenty są pobierane z dużą precyzją, ponieważ każdy z nich koncentruje się na jednej idei, ale brakuje im otaczającego kontekstu potrzebnego LLM-owi do wygenerowania pełnej odpowiedzi. Duże fragmenty zapewniają bogaty kontekst, ale zmniejszają precyzję wyszukiwania, ponieważ słabo pasują do wielu zapytań zamiast silnie pasować do jednego. Dzielenie na fragmenty nadrzędne i podrzędne rozwiązuje ten dylemat.

W przypadku dzielenia na fragmenty nadrzędne i podrzędne tworzysz z tego samego dokumentu dwie warstwy fragmentów. Fragmenty podrzędne są małe (np. 1–3 zdania) i są osadzane oraz indeksowane na potrzeby wyszukiwania. Fragmenty nadrzędne to większe sekcje (np. całe akapity lub strony), przechowywane osobno. Gdy zostanie pobrany fragment podrzędny, zamiast niego przekazujesz LLM-owi jego fragment nadrzędny.

Pierwszym krokiem jest podzielenie dokumentu na duże fragmenty nadrzędne, a następnie podzielenie każdego fragmentu nadrzędnego na mniejsze fragmenty podrzędne. Każdy fragment podrzędny przechowuje odwołanie — zazwyczaj w polu metadanych parent_id — wskazujące jego fragment nadrzędny. To mapowanie pozwala znaleźć pełny fragment nadrzędny na podstawie dowolnego pobranego fragmentu podrzędnego.

Tylko fragmenty podrzędne są osadzane i przechowywane w bazie wektorowej. Fragmenty nadrzędne są przechowywane w osobnym magazynie klucz–wartość (słowniku w pamięci, Redisie lub bazie dokumentowej). Dzięki temu indeks wektorowy pozostaje gęsty i precyzyjny, a bogaty kontekst znajduje się poza nim.

Podczas wyszukiwania zapytanie użytkownika jest osadzane i porównywane z fragmentami podrzędnymi. Znajdowane są k najlepszych fragmentów podrzędnych, a zawarte w nich odwołania parent_id są rozwiązywane przez wyszukanie danych w magazynie fragmentów nadrzędnych. Następnie do promptu LLM-a wstawiane są fragmenty nadrzędne, a nie podrzędne. LLM otrzymuje szeroki kontekst, a wyszukiwanie zachowuje precyzję.

LangChain udostępnia klasę ParentDocumentRetriever, która implementuje ten wzorzec od razu po wyjęciu z pudełka. Należy podać splitter dokumentów nadrzędnych, splitter dokumentów podrzędnych, bazę wektorową dla embeddingów dokumentów podrzędnych oraz magazyn dokumentów dla dokumentów nadrzędnych. Klasa konfiguruje hierarchię i w przejrzysty sposób obsługuje pobieranie danych.

Pobieranie od małych do dużych fragmentów to inna nazwa tej samej koncepcji: pobierane są małe, precyzyjne fragmenty, a następnie przed wysłaniem ich do LLM rozszerza się je o otaczający kontekst. Niektóre implementacje rozszerzają fragment nie do ustalonego dokumentu nadrzędnego, lecz do okna sąsiednich zdań — przekazując modelowi zdania znajdujące się przed dopasowanym fragmentem i po nim, aby zachować ciągłość kontekstu.

W odpowiedzi na jedno zapytanie może zostać pobranych wiele fragmentów podrzędnych należących do tego samego dokumentu nadrzędnego. Bez usuwania duplikatów ten sam fragment dokumentu nadrzędnego pojawiłby się w promptcie wielokrotnie, niepotrzebnie zużywając tokeny. Przed złożeniem kontekstu zawsze usuwaj duplikaty na podstawie identyfikatora dokumentu nadrzędnego. Przykład kodu w przedstawionej wyżej funkcji retrieve obsługuje to za pomocą zbioru seen_parent_ids.

Pobieranie w układzie nadrzędny–podrzędny sprawdza się najlepiej, gdy dokumenty mają wyraźną strukturę hierarchiczną: rozdziały z sekcjami, artykuły z akapitami lub wiki z podsekcjami. Jest szczególnie skuteczne w przypadku długiej dokumentacji technicznej, w której precyzyjne pytania wymagają odpowiedzi dotyczących konkretnego miejsca, ale odpowiedzi te mają sens dopiero w szerszym kontekście sekcji.

Typowa konfiguracja obejmuje: fragmenty podrzędne o rozmiarze 200–400 tokenów (skupione na pojedynczych zagadnieniach) oraz fragmenty nadrzędne o rozmiarze 1000–2000 tokenów (pełne sekcje). Jeśli fragmenty podrzędne są zbyt małe, stają się pojedynczymi zdaniami, które same w sobie nie mają wystarczającego znaczenia. Jeśli fragmenty nadrzędne są zbyt duże, ponownie pojawia się problem rozmycia kontekstu, którego próbowano uniknąć.

Podsumowując dotychczasowe strategie dzielenia: stały rozmiar jest szybki, ale rozbija kontekst; dzielenie semantyczne zachowuje spójność tematyczną; układ nadrzędny–podrzędny optymalizuje zarówno precyzję pobierania, jak i bogactwo kontekstu LLM. W większości produkcyjnych systemów RAG przetwarzających długie dokumenty dzielenie na fragmenty nadrzędne i podrzędne zapewnia najlepszą jakość pobierania przy akceptowalnej złożoności.

W tym module nauczysz się, że: fragmenty podrzędne zapewniają precyzyjne pobieranie, a fragmenty nadrzędne — bogaty kontekst, ParentDocumentRetriever w LangChain automatycznie realizuje ten proces, a usuwanie duplikatów na podstawie identyfikatora dokumentu nadrzędnego zapobiega powtarzaniu kontekstu. Następnie omówimy strategie dzielenia zależne od rodzaju dokumentu, stosowane w plikach z kodem i dokumentach HTML.