Opbygning af simple LLM-agenter

Velkommen! I denne lektion dykker vi ned i LLM-agenter. En agent er en LLM, der kan træffe beslutninger, udføre handlinger og nå mål ved at interagere med sit miljø.

Forestil dig det som en LLM med en hjerne og hænder. "Hjernen" er LLM'en, der står for ræsonnering, og "hænderne" er værktøjer, som den kan bruge til at udføre opgaver.

Alle LLM-agenter har vigtige dele, der arbejder sammen for at muliggøre deres autonome adfærd:

• LLM'en (hjernen): Den centrale sprogmodel til ræsonnering, forståelse og beslutningstagning.
• Hukommelse (tilstand): Her gemmer agenten tidligere interaktioner, observationer eller tanker for at bevare konteksten.
• Værktøjer (handlinger): Eksterne funktioner eller API'er, som agenten kan kalde for at udføre bestemte opgaver.
• Planlægger (ræsonnering): LLM'ens evne til at opdele et komplekst mål i mindre, håndterbare trin.

Agenter arbejder i en kontinuerlig cyklus, der ofte kaldes agentløkken. Denne løkke gør det muligt for dem at tilpasse sig og bevæge sig hen imod et mål:

1. Observer: Agenten modtager nyt input (f.eks. en brugerforespørgsel) eller undersøger sit miljø.
2. Tænk: LLM'en behandler observationer, planlægger de næste trin, afgør, om der er brug for et værktøj, og hvad der skal gøres.
3. Handl: Agenten udfører et valgt værktøj, hvis det er relevant, eller genererer et direkte svar.

Denne løkke gentages, indtil målet er nået, eller der ikke kræves flere handlinger.

Du har lært om funktionskald og brug af værktøjer. For en agent er værktøjer helt afgørende!

De gør det muligt for LLM'en at gøre mere end blot at generere tekst. Værktøjer giver agenter mulighed for at *gøre* ting i den virkelige verden, f.eks.:

• Søge på nettet efter opdaterede oplysninger.
• Tilgå databaser eller læse filer.
• Udføre beregninger eller analysere data.
• Sende e-mails, interagere med API'er eller styre anden software.

Forestil dig, at en agent skal finde det aktuelle vejr. Den ved det ikke direkte, men den er klar over, at den har værktøjet 'get_weather'.

Her er en forenklet visning af dens interne tankeproces, der viser, hvordan trinnet 'Tænk' fører til trinnet 'Handl':

For at bygge en simpel agent instruerer du primært LLM'en i at:

• Forstå sin rolle: Definere sin persona (f.eks. "Du er en hjælpsom assistent").
• Kende de tilgængelige værktøjer: Få en tydelig liste over de værktøjer, den kan bruge, inklusive deres navne, beskrivelser og hvordan de kaldes.
• Beslutte og handle: Få mulighed for at afgøre, hvornår og hvordan værktøjerne skal bruges ud fra brugerens forespørgsel.

LLM'ens medfødte evne til ræsonnering driver hele processen, og den bruger værktøjer, når dens interne viden ikke er tilstrækkelig.

Instruktionen er helt afgørende for en agents adfærd. Den fungerer som agentens indledende programmering. Du skal tydeligt definere:

• Dens persona: "Du er en venlig rejseagent, der hjælper brugere med at planlægge rejser."
• Dens mål: "Dit primære mål er at hjælpe brugere med at finde fly, hoteller og lokale seværdigheder."
• Tilgængelige værktøjer: Beskriv hvert værktøj, dets formål og den præcise syntaks til at kalde det (f.eks. search_flights(destination, date)).
• Beslutningsproces: "Tænk altid trin for trin, før du beslutter dig for en handling eller genererer et svar."

Denne omfattende instruktion guider LLM'en til at fungere som en effektiv agent.

Lad os se på en simpel agent til "rejseplanlægning". Denne agent har adgang til værktøjer som get_flights(destination, date), get_hotels(city, dates) og get_attractions(city).

Bruger: "Planlæg en weekendtur til Paris næste måned."

Agenten vil følge sin løkke:

1. Tænk: Brugeren ønsker en rejseplan. Jeg skal bruge fly, hoteller og seværdigheder i Paris.
2. Handl (værktøj): Kald get_flights("Paris", "next month").
3. Handl (værktøj): Kald get_hotels("Paris", "next month").
4. Handl (værktøj): Kald get_attractions("Paris").
5. Tænk og handl (svar): Kombiner alle resultaterne til en sammenhængende rejseplan for brugeren.

Selvom simple agenter er effektive, har de, især med minimal instruktion, begrænsninger:

• Hallucinationer: De kan opfinde værktøjskald, parametre eller fakta.
• Dårlig planlægning: De kan have svært ved meget kompleks ræsonnering i flere trin eller ved at komme sig efter fejl.
• Omkostninger og forsinkelse: Hvert trin med "tænk" og "handl" involverer typisk et API-kald til en LLM, hvilket øger omkostningerne og svartiden.
• Følsomhed over for instruktioner: Små ændringer i instruktionerne kan nogle gange ændre agentens adfærd drastisk.

Dette er almindelige udfordringer, som mere avancerede agentmønstre og frameworks forsøger at håndtere.

Godt gået! Du har lært det grundlæggende i at bygge simple LLM-agenter.

• Agenter er LLM'er, der selvstændigt kan ræsonnere, planlægge og handle.
• De består af en LLM, hukommelse og værktøjer.
• Agenter arbejder i en kontinuerlig observer-tænk-handl-løkke.
• Effektiv instruktion er afgørende for at definere en agents persona, mål og tilgængelige værktøjer.

Selvom simple agenter er effektive, har de begrænsninger. I kommende lektioner undersøger vi mere avancerede agentmønstre og frameworks, så vi kan bygge endnu mere kapable applikationer.