Niestandardowe narzędzia i wtyczki dla LLM
Twórz i integruj niestandardowe narzędzia, które LLM mogą wykorzystywać do rozszerzania swoich możliwości poza podstawową wiedzę.
Niestandardowe narzędzia i wtyczki dla LLM to bezpłatna lekcja AI Prompt Engineering na CoddyKit. To lekcja 3 z 3. Możesz przeczytać całą lekcję poniżej za darmo — a potem ćwiczyć ją interaktywnie w przeglądarce z wbudowanym edytorem kodu i tutorem AI dostępnym 24/7. To część ścieżki edukacyjnej AI Prompt Engineering, a Twój postęp synchronizuje się między webem a aplikacją CoddyKit. Kurs AI Prompt Engineering zawiera 3 lekcji w sumie.
Czym są narzędzia niestandardowe?
Witamy na ostatniej lekcji kursu „Zaawansowane promptowanie z użyciem narzędzi i agentów”! Dziś omówimy narzędzia niestandardowe i wtyczki dla dużych modeli językowych (LLM).
Narzędzia niestandardowe pozwalają modelom LLM wykraczać poza dane użyte podczas trenowania oraz komunikować się z rzeczywistym światem lub określonymi systemami. Można myśleć o nich jak o specjalnych umiejętnościach, których uczą Państwo model LLM.
- Rozszerzanie możliwości: Dodawanie nowych funkcji.
- Dostęp do danych w czasie rzeczywistym: Pobieranie aktualnych informacji.
- Wykonywanie działań: Wprowadzanie zmian w systemach zewnętrznych.
Możliwości niestandardowe a wbudowane
Poznali już Państwo podstawy wywoływania funkcji i integracji z API. Narzędzia niestandardowe idą o krok dalej.
Model LLM może z natury wiedzieć, jak „podsumować tekst”, ale nie wie, jak „sprawdzić pogodę w Londynie”, jeśli nie udostępnią mu Państwo odpowiedniego narzędzia. Narzędzia niestandardowe wypełniają tę lukę, zapewniając modelowi LLM konkretne możliwości zewnętrzne, które nie należą do jego podstawowej bazy wiedzy.
Budowa narzędzia niestandardowego
Każde narzędzie niestandardowe wymaga jasnej definicji, aby model LLM wiedział, kiedy i jak z niego korzystać. Najważniejsze elementy to:
- Nazwa: Unikalny identyfikator (np.
get_current_time). - Opis: Wyjaśnia, co robi narzędzie i kiedy należy go użyć. Ma to kluczowe znaczenie dla podejmowania decyzji przez model LLM.
- Parametry: Dane wejściowe wymagane do działania narzędzia (np.
timezonew narzędziu do obsługi czasu). - Oczekiwany wynik: Rodzaj informacji zwracanej przez narzędzie.
Opisywanie narzędzi za pomocą schematu
Aby „nauczyć” model LLM korzystania z narzędzia niestandardowego, udostępniamy jego definicję w ustrukturyzowanym formacie, często w postaci schematu JSON. Schemat ten przekazuje modelowi LLM wszystkie informacje potrzebne do prawidłowego wywołania narzędzia.
Oto uproszczony przykład opisu naszego narzędzia get_current_time:
{
"name": "get_current_time",
"description": "Gets the current time in a specified timezone.",
"parameters": {
"type": "object",
"properties": {
"timezone": {
"type": "string",
"description": "The timezone to get the time for (e.g., UTC, America/New_York)."
}
},
"required": []
}
}Tworzenie prostego narzędzia: pobieranie czasu
Utwórzmy praktyczny przykład: narzędzie o nazwie get_current_time. Będzie ono po prostu zwracać bieżący czas, opcjonalnie dla określonej strefy czasowej.
Model LLM rozumie opis (pochodzący ze schematu), ale to Państwo odpowiadają za napisanie właściwego kodu wykonującego opisane działanie. Kod ten jest uruchamiany zewnętrznie, gdy model LLM zdecyduje się wywołać narzędzie.
Przykład implementacji narzędzia
Ten fragment kodu w Pythonie pokazuje, jak narzędzie get_current_time może wyglądać od strony implementacji. Gdy model LLM wywołuje narzędzie, wykonywana jest ta funkcja (lub podobna logika w wybranym przez Państwa języku), a następnie pobierany jest wynik.
Proszę uruchomić kod, aby zobaczyć jego wynik!
import datetime
def get_current_time(timezone="UTC"):
"""
Returns the current time in the specified timezone.
"""
# For simplicity, we'll return UTC time and note timezone
now = datetime.datetime.now(datetime.timezone.utc)
return f"Current time in {timezone}: {now.strftime('%Y-%m-%d %H:%M:%S')} (UTC basis)"
# This is the entry point that would be called by the LLM's integration layer
if __name__ == "__main__":
print(get_current_time())
print(get_current_time(timezone="America/New_York"))Przebieg wywoływania narzędzia przez LLM
Oto typowy sposób korzystania modelu LLM z narzędzia niestandardowego:
- Prompt użytkownika: Zadają Państwo modelowi LLM pytanie (np. „Która jest godzina w Nowym Jorku?”).
- Decyzja modelu LLM: Model LLM analizuje Państwa prompt oraz dostępne opisy narzędzi.
- Wywołanie narzędzia: Jeśli dane narzędzie jest przydatne, model LLM generuje wywołanie narzędzia (np.
get_current_time(timezone="America/New_York")). - Wykonanie: Państwa system wykonuje właściwy kod narzędzia.
- Wynik: Wynik narzędzia jest zwracany do modelu LLM.
- Odpowiedź modelu LLM: Model LLM wykorzystuje wynik narzędzia do sformułowania końcowej odpowiedzi dla Państwa.
Promptowanie z użyciem narzędzi niestandardowych
Promptując model LLM, który ma dostęp do narzędzi niestandardowych, nie muszą Państwo bezpośrednio nakazywać mu użycia narzędzia. Wystarczy zadać pytanie sugerujące potrzebę skorzystania z narzędzia.
Kluczowa jest zdolność modelu LLM do zrozumienia opisu narzędzia. Dobry opis pomaga modelowi LLM wybrać właściwe narzędzie we właściwym momencie.
- Prompt:
"What is the current time right now?" - Działanie modelu LLM: Wywołuje
get_current_time() - Wynik narzędzia:
"Current time in UTC: 2023-10-27 10:30:00 (UTC basis)" - Odpowiedź modelu LLM:
"The current time is 10:30 AM UTC."
Zalety narzędzi niestandardowych
Narzędzia niestandardowe odblokowują zaawansowane możliwości modeli LLM:
- Specjalizacja dziedzinowa: Dostarczanie modelom LLM wiedzy wykraczającej poza ich ogólne dane treningowe.
- Interakcja w czasie rzeczywistym: Dostęp do aktualnych informacji (np. cen akcji i pogody).
- AI zdolna do działania: Umożliwianie modelom LLM wykonywania działań (np. wysyłania wiadomości e-mail i rezerwowania wizyt).
- Większa dokładność: Ograniczanie halucynacji dzięki opieraniu się na faktycznych wynikach narzędzi.
- Modułowość: Oddzielenie logiki modelu LLM od interakcji z systemami zewnętrznymi.
Szybkie sprawdzenie: narzędzia niestandardowe
Które z poniższych elementów są niezbędnymi składnikami definicji narzędzia niestandardowego dla modelu LLM?
Podsumowanie: rozszerzanie możliwości LLM
Podczas tej lekcji poznali Państwo narzędzia niestandardowe i wtyczki — skuteczny sposób rozszerzania możliwości modeli LLM.
- Narzędzia niestandardowe pozwalają modelom LLM komunikować się z systemami zewnętrznymi i korzystać z zewnętrznych danych.
- Wymagają jasnej definicji (nazwy, opisu i parametrów), często z użyciem schematu JSON.
- To Państwo implementują właściwą logikę uruchamianą po wywołaniu narzędzia przez model LLM.
- Narzędzia niestandardowe umożliwiają modelom LLM zdobywanie wiedzy dziedzinowej, dostęp do danych w czasie rzeczywistym i wykonywanie działań, wykraczając poza proste generowanie tekstu.
Opanowanie narzędzi niestandardowych pozwoli Państwu tworzyć naprawdę inteligentne i interaktywne aplikacje AI!
Często zadawane pytania
Czy lekcja „Niestandardowe narzędzia i wtyczki dla LLM” jest bezpłatna?
Tak — pełny tekst „Niestandardowe narzędzia i wtyczki dla LLM” jest dostępny za darmo tutaj w sieci. Aby ćwiczyć ją interaktywnie (wbudowany edytor kodu i tutor AI dostępny 24/7) i odblokować resztę kursu AI Prompt Engineering, przejdź na CoddyKit PRO. Kurs AI Prompt Engineering zawiera 3 lekcji w sumie.
Co nauczysz się w „Niestandardowe narzędzia i wtyczki dla LLM”?
Twórz i integruj niestandardowe narzędzia, które LLM mogą wykorzystywać do rozszerzania swoich możliwości poza podstawową wiedzę. Ćwiczysz AI Prompt Engineering z praktycznym kodem, który uruchamiasz bezpośrednio w przeglądarce, a tutor AI dostępny 24/7 odpowiada na Twoje pytania podczas pracy nad lekcją.
Czy potrzebuję doświadczenia, aby zacząć AI Prompt Engineering?
Nie wymagamy żadnego doświadczenia. AI Prompt Engineering w CoddyKit jest strukturyzowany dla początkujących i zaawansowanych użytkowników, więc możesz zacząć tutaj lub od początku i uczyć się w swoim tempie. To lekcja 3 z 3.
Ile czasu zajmuje lekcja „Niestandardowe narzędzia i wtyczki dla LLM”?
Większość lekcji CoddyKit trwa około 5–10 minut. Każda lekcja to mały, interaktywny krok, dzięki czemu robisz systematyczne postępy i zawsze wracasz dokładnie do tego samego miejsca — na webie i w aplikacji.
Czy mogę pisać i uruchamiać kod w tej lekcji AI Prompt Engineering?
Tak. Każda lekcja AI Prompt Engineering zawiera wbudowany edytor kodu, więc piszesz i uruchamiasz prawdziwy kod bezpośrednio w przeglądarce i od razu otrzymujesz sprzężenie zwrotne od AI — bez konfiguracji na komputerze.
Wszystkie lekcje w tym kursie
- Wywoływanie funkcji i integracja z API
- Systemy promptowania wieloagentowego
- Niestandardowe narzędzia i wtyczki dla LLM