Włączanie retrievalu do promptu
Odpowiadaj na podstawie kontekstu z odwołaniami do źródeł
Włączanie retrievalu do promptu to bezpłatna lekcja NLP Academy na CoddyKit. To lekcja 4 z 4. Możesz przeczytać całą lekcję poniżej za darmo — a potem ćwiczyć ją interaktywnie w przeglądarce z wbudowanym edytorem kodu i tutorem AI dostępnym 24/7. To część ścieżki edukacyjnej NLP Academy, a Twój postęp synchronizuje się między webem a aplikacją CoddyKit. Kurs NLP Academy zawiera 4 lekcji w sumie.
Łączenie wszystkich elementów
Można wyszukać odpowiednie fragmenty i wywołać LLM. Teraz należy je połączyć: przekazać wyszukany tekst w promptcie jako kontekst.
Rozszerzony prompt
Prompt RAG składa się z trzech części: instrukcji, wyszukanego kontekstu i pytania użytkownika. Model odczytuje wszystkie trzy elementy razem.
Łączenie wyszukanych fragmentów
Najpierw należy połączyć najważniejsze fragmenty w jeden blok tekstu. Pusta linia między nimi sprawia, że każdy fragment pozostaje czytelny dla modelu.
context = "\n\n".join(hits)Budowanie ciągu promptu
Kontekst i pytanie należy umieścić pod wyraźnymi etykietami. Prosty szablon dokładnie wskazuje modelowi, czego użyć i na co odpowiedzieć.
prompt = f"Context:\n{context}\n\nQuestion: {question}\nAnswer:"Polecenie modelowi, aby trzymał się źródeł
Należy dodać instrukcję, aby odpowiadał wyłącznie na podstawie kontekstu. Ogranicza to halucynacje i wiąże odpowiedź ze źródłami.
Obsługa nieznanych odpowiedzi
Należy polecić modelowi, aby powiedział, że nie zna odpowiedzi, gdy kontekst nie zawiera potrzebnych informacji. Dopuszczenie odpowiedzi nie wiem jest lepsze niż pewne siebie, błędne zgadywanie.
Wysyłanie danych do LLM
Złożony prompt należy przekazać do wywołania modelu. LLM odpowiada teraz na podstawie wyszukanego kontekstu, a nie wyłącznie danych z trenowania.
answer = llm(prompt)Wyświetlanie źródeł
Razem z odpowiedzią należy zwrócić użyte fragmenty. Te cytowania pozwalają użytkownikom zweryfikować twierdzenie i budują zaufanie.
Kontrolowanie długości kontekstu
Zbyt duża liczba fragmentów przepełnia okno kontekstowe. Należy utrzymywać małą wartość k i skracać długie fragmenty, aby prompt mieścił się w limicie modelu.
Minimalna funkcja RAG
Cały przebieg jest niewielki: osadzanie, wyszukiwanie, budowanie promptu i generowanie. Ta jedna funkcja obejmuje cały potok RAG.
def rag(q):
hits = retrieve(q)
return llm(build_prompt(hits, q))Poprawa jakości wyszukiwania
Jeśli odpowiedzi są słabe, problem zwykle leży w wyszukiwaniu, a nie w LLM. Lepsze fragmenty i ponowne rangowanie poprawiają jakość bardziej niż większy model.
Szybkie sprawdzenie
Zastanów się, co zawiera prompt RAG.
Podsumowanie
Łączysz wyszukane fragmenty w kontekst, tworzysz prompt zawierający instrukcję i pytanie, generujesz odpowiedź opartą na źródłach oraz wyświetlasz źródła. ✅
Ucz się Python dzięki korepetycjom AI — za darmo
Pisz i uruchamiaj kod w przeglądarce, otrzymuj natychmiastową pomoc od korepetytora AI dostępnego 24/7 i kontynuuj naukę w sieci lub w aplikacji.
- Kursy
- 30
- Lekcje
- 120
Często zadawane pytania
Czy lekcja „Włączanie retrievalu do promptu” jest bezpłatna?
Tak — pełny tekst „Włączanie retrievalu do promptu” jest dostępny za darmo tutaj w sieci. Aby ćwiczyć ją interaktywnie (wbudowany edytor kodu i tutor AI dostępny 24/7) i odblokować resztę kursu NLP Academy, przejdź na CoddyKit PRO. Kurs NLP Academy zawiera 4 lekcji w sumie.
Co nauczysz się w „Włączanie retrievalu do promptu”?
Odpowiadaj na podstawie kontekstu z odwołaniami do źródeł Ćwiczysz NLP Academy z praktycznym kodem, który uruchamiasz bezpośrednio w przeglądarce, a tutor AI dostępny 24/7 odpowiada na Twoje pytania podczas pracy nad lekcją.
Czy potrzebuję doświadczenia, aby zacząć NLP Academy?
Nie wymagamy żadnego doświadczenia. NLP Academy w CoddyKit jest strukturyzowany dla początkujących i zaawansowanych użytkowników, więc możesz zacząć tutaj lub od początku i uczyć się w swoim tempie. To lekcja 4 z 4.
Ile czasu zajmuje lekcja „Włączanie retrievalu do promptu”?
Większość lekcji CoddyKit trwa około 5–10 minut. Każda lekcja to mały, interaktywny krok, dzięki czemu robisz systematyczne postępy i zawsze wracasz dokładnie do tego samego miejsca — na webie i w aplikacji.
Czy mogę pisać i uruchamiać kod w tej lekcji NLP Academy?
Tak. Każda lekcja NLP Academy zawiera wbudowany edytor kodu, więc piszesz i uruchamiasz prawdziwy kod bezpośrednio w przeglądarce i od razu otrzymujesz sprzężenie zwrotne od AI — bez konfiguracji na komputerze.
Wszystkie lekcje w tym kursie
- Dlaczego LLM potrzebują retrievalu
- Dzielenie i tworzenie embeddingów dokumentów
- Wyszukiwanie wektorowe za pomocą vector store
- Włączanie retrievalu do promptu