Chain-of-thought-prompting

Kjernen i CoT-prompting er bemerkelsesverdig enkel: Legg bare til en formulering som «La oss tenke trinn for trinn» eller «Gå gjennom resonnementet ditt med meg» i prompten.

Denne enkle instruksjonen oppmuntrer LLM-en til å dele problemet opp i mindre og mer håndterbare deler, slik at den simulerer en menneskelig tankeprosess.

La oss se CoT i et enkelt eksempel:

• Prompt: «Gjennomsnittshastigheten til en bil er 60 mph. Hvor lang tid tar det å kjøre 180 miles? La oss tenke trinn for trinn.»

Uten CoT ville LLM-en kanskje bare svart «3 timer». Med CoT ville du fått noe som dette:

• LLM-resultat (CoT):
  1. Identifiser de oppgitte verdiene: avstand = 180 miles, hastighet = 60 mph.
  2. Husk formelen: Tid = Avstand / Hastighet.
  3. Sett inn verdiene: Tid = 180 miles / 60 mph.
  4. Regn ut: Tid = 3 timer.
  Det tar altså 3 timer.

CoT-prompting forbedrer LLM-ens ytelse av flere viktige grunner:

• Deler opp kompleksiteten: Store problemer blir til en rekke mindre oppgaver som er enklere å løse.
• Reduserer feil: Hvert trinn kan vurderes, noe som gjør det enklere å oppdage feil tidlig.
• Gir større åpenhet: Du kan se *hvordan* LLM-en kom frem til svaret sitt, slik at svaret blir mer pålitelig og etterprøvbart.
• Gir tilgang til resonnering: Det oppmuntrer LLM-en til å hente frem og bruke den interne kunnskapen sin mer logisk.

CoT er spesielt kraftig for spørsmål som krever flere vurderinger eller betingelser. Det kan for eksempel være analyse av en situasjon med flere regler som strider mot hverandre.

Ved å be LLM-en vurdere hver betingelse trinnvis er det mindre sannsynlig at den overser detaljer eller prioriterer feil informasjon. Resultatet blir en mer nyansert og nøyaktig endelig vurdering.

CoT er mest effektivt for oppgaver som omfatter:

• Aritmetikk og tekstoppgaver i matematikk: Som i eksempelet vårt.
• Logisk resonnering: Gåter, deduksjonsoppgaver og betingede utsagn.
• Instruksjoner i flere trinn: Generering av en plan eller en handlingssekvens.
• Kompleks sammenstilling av informasjon: Kombinering av flere datadeler for å trekke en konklusjon.

Det er mindre viktig ved enkel faktagjengivelse.

Slik får du størst mulig utbytte av CoT:

• Vær tydelig: Skriv klart «La oss tenke trinn for trinn».
• Gi eksempler (Few-Shot CoT): Ved vanskeligere problemer kan du vise et eksempel på et problem *og* den trinnvise løsningen før du stiller spørsmålet. (Mer om dette i en senere leksjon!)
• Bruk klart språk: Sørg for at den første problemformuleringen er entydig.
• Prøv deg frem: Ulike formuleringer kan fungere bedre avhengig av LLM-en og oppgaven.

Du har fått kontroll på det grunnleggende ved Chain-of-Thought-prompting!

• CoT innebærer å veilede LLM-er til å vise resonneringstrinnene sine.
• En enkel formulering som «La oss tenke trinn for trinn» kan åpne for dypere resonnering.
• Teknikken er effektiv for komplekse oppgaver innen matematikk, logikk og oppgaver i flere trinn.
• De viktigste fordelene er bedre nøyaktighet, færre feil og større åpenhet.

Fortsett å øve på denne teknikken for å få smartere og mer pålitelige svar fra LLM-ene dine!