Dlaczego pojedyncze agenty napotykają ograniczenia

Pierwszych agentów AI budowano w atrakcyjnie prosty sposób: jeden LLM, zestaw narzędzi i pętla działająca aż do ukończenia zadania. W przypadku prostych zadań, takich jak odpowiedź na pytanie lub pobranie strony internetowej, rozwiązanie to sprawdza się doskonale. Problem pojawia się, gdy rośnie złożoność rozwiązywanego zadania.

Każdy LLM ma skończone okno kontekstu, które ogranicza ilość informacji możliwych do uwzględnienia jednocześnie. W długotrwałym zadaniu agenta rosnąca historia przemyśleń, wywołań narzędzi i obserwacji w końcu całkowicie wypełnia to okno. W takiej sytuacji agent albo usuwa najważniejszy wcześniejszy kontekst, albo zatrzymuje się z błędem.

Na przykład agent badawczy analizujący 50 artykułów zgromadzi dziesiątki tysięcy tokenów obserwacji na długo przed zakończeniem pracy.

W miarę dodawania kolejnych możliwości do pojedynczego agenta poprzez wyposażanie go w większą liczbę narzędzi jego wydajność może paradoksalnie spadać. Badania pokazują, że LLM-y mają trudności z niezawodnym wyborem właściwego narzędzia, gdy przedstawia się im więcej niż 10–15 opcji. Model marnuje kroki rozumowania na rozważanie, którego narzędzia użyć, zamiast faktycznie wykonywać pracę.

Zjawisko to nazywa się przeciążeniem narzędzi: zbyt wiele możliwości pogarsza jakość decyzji, podobnie jak u ludzi.

Pojedynczy agent ogólnego przeznaczenia ma jednocześnie pełnić rolę badacza, autora, programisty i analityka danych. Każda z tych ról wymaga innego sposobu rozumowania, innego zestawu narzędzi i innego formatu wyników. Żaden pojedynczy prompt nie może jednocześnie optymalizować wszystkich tych elementów.

Badacz powinien być sceptyczny i skrupulatny. Autor powinien być kreatywny i zwięzły. Wymaganie od jednego agenta przełączania się między tymi trybami w ramach tego samego kontekstu pogarsza jakość każdego z nich.

W potoku złożonym z jednego agenta błąd popełniony w 3. kroku zadania obejmującego 20 kroków zatruwa każdy kolejny etap. Agent opiera się na własnym błędnym wyniku, a błąd po cichu narasta. Zanim powstanie ostateczna odpowiedź, może ona być całkowicie niepoprawna, mimo że agent pozornie poprawnie rozumuje na każdym pojedynczym etapie.

Różni się to zasadniczo od wykrycia błędu i poprawienia go w odizolowanym miejscu, zanim zdąży się rozprzestrzenić.

Pojedynczy agent z natury działa sekwencyjnie: myśli, działa, obserwuje i powtarza. Gdy zadanie obejmuje niezależne podzadania, które można wykonać jednocześnie, pojedynczy agent nadal musi realizować je jedno po drugim. Zbadanie trzech różnych tematów trwa wtedy trzy razy dłużej, niż powinno.

Systemy wieloagentowe rozwiązują ten problem, uruchamiając wyspecjalizowane podagenty równolegle i wykonując tę samą łączną pracę w ułamku tego czasu.

Przed podjęciem decyzji o przejściu na rozwiązanie wieloagentowe należy zdiagnozować rzeczywisty tryb awarii pojedynczego agenta. Należy zwrócić uwagę na następujące symptomy: zadania wymagające ponad 15–20 kroków rozumowania, zestawy narzędzi zawierające więcej niż 10 funkcji, wyniki wymagające wiedzy z zasadniczo różnych dziedzin oraz zadania z niezależnymi podzadaniami, które można zrównoleglić.

Nie każdy problem agenta wymaga rozwiązania wieloagentowego. Należy zacząć od prostego rozwiązania i rozbudować je dopiero po napotkaniu rzeczywistych ograniczeń.

Zespoły ludzi radzą sobie ze złożonymi projektami lepiej niż pojedynczy geniusz, ponieważ podział obciążenia poznawczego pozwala każdej osobie zagłębić się w swojej dziedzinie. Ta sama zasada dotyczy agentów AI. Pojedynczy agent próbujący utrzymać w oknie kontekstu pełny kontekst złożonego projektu przypomina sytuację, w której jedna osoba ma jednocześnie pisać kod, projektować interfejs użytkownika, obsługiwać klientów i zarządzać bazą danych.

Systemy wieloagentowe rozwiązują wszystkie te problemy, rozdzielając pracę między wyspecjalizowane agenty, z których każdy ma określoną rolę, niewielki zestaw narzędzi i kontekst o możliwej do opanowania wielkości. Agent orkiestrujący rozkłada zadanie na części i koordynuje pracę specjalistów. Na końcu wyniki są syntetyzowane w spójną całość.

Odzwierciedla to sposób działania wysoko efektywnych organizacji ludzkich: specjaliści wykonują pogłębioną pracę, a menedżerowie koordynują działania i integrują wyniki.

Systemy wieloagentowe wprowadzają własną złożoność: opóźnienia w komunikacji między agentami, trudniejsze debugowanie, większą liczbę potencjalnych punktów awarii oraz wyższe koszty API. W przypadku prostych zadań są rozwiązaniem na wyrost.

Należy pozostać przy pojedynczym agencie, gdy: zadanie mieści się w jednym oknie kontekstu, wymaga mniej niż 10 narzędzi, można je ukończyć w mniej niż 15 krokach i nie obejmuje istotnie niezależnych podzadań, które skorzystałyby na równoległości.

Produkcyjne systemy wieloagentowe są stosowane w wielu dziedzinach. AutoGPT i Devin wykorzystują wzorce wieloagentowe w zadaniach związanych z inżynierią oprogramowania. Asystenci AI do badań używają kolejno agenta planującego, agenta wyszukującego i agenta piszącego. Platformy obsługi klienta wykorzystują agenta wstępnej kwalifikacji, który kieruje sprawy do wyspecjalizowanych agentów zajmujących się rozliczeniami, problemami technicznymi i kwestiami dotyczącymi kont.

To właśnie zrozumienie trybów awarii pojedynczych agentów motywuje do stosowania tych architektur.

Sprawdź swoją wiedzę na temat ograniczeń pojedynczego agenta omówionych w tej lekcji.

W tej lekcji dowiedział się Pan / dowiedziała się Pani, że: wyczerpanie okna kontekstu ogranicza liczbę kroków, które może wykonać pojedynczy agent, przeciążenie narzędzi pogarsza jakość decyzji, gdy dostępnych jest zbyt wiele narzędzi, a brak specjalizacji zmusza pojedynczego agenta do przeciętnego radzenia sobie z wieloma zadaniami zamiast do doskonałości w jednym z nich. W następnej części omówimy wzorzec orkiestrator–podagent, który rozwiązuje te problemy.