Felhantering och säker körning av verktyg
Gör agentverktyg robusta och säkra genom att hantera fel på ett kontrollerat sätt, validera indata och begränsa vad verktygen får göra under autonom körning.
Felhantering och säker körning av verktyg är en gratis lektion i AI-agenter med LangChain och autonoma arbetsflöden på CoddyKit. Detta är lektion 4 av 4. Ni kan läsa hela lektionen gratis nedan och sedan öva praktiskt i webbläsaren med en inbyggd kodredigerare och en AI-handledare som är tillgänglig dygnet runt. Den ingår i lärvägen för AI-agenter med LangChain och autonoma arbetsflöden, och Era framsteg synkroniseras mellan webben och CoddyKit-appen. Kursen i AI-agenter med LangChain och autonoma arbetsflöden innehåller totalt 4 lektioner.
Verktyg kommer att misslyckas
Agenter anropar externa verktyg: API:er, databaser och skal. Dessa kan få timeout, returnera fel eller bete sig oväntat. En agent som kraschar vid det första felet är oanvändbar i produktion.
I den här lektionen går vi igenom hur verktygskörning görs säker och motståndskraftig.
Returnera fel som observationer
I stället för att kasta ett fel bör ett verktyg returnera felet som ett meddelande som agenten kan läsa. Då kan agenten resonera kring felet och försöka på ett annat sätt.
def search(q):
try:
return api.search(q)
except Exception as e:
return 'ERROR: search failed: ' + str(e)Validera verktygsindata
LLM:er skickar ibland nonsensargument. Validera indata innan ni utför en åtgärd, så att en felaktig fråga aldrig når ett verkligt system.
def get_user(user_id):
if not str(user_id).isdigit():
return 'ERROR: user_id must be numeric'
return db.fetch(user_id)Timeout och återförsök
Omslut långsamma verktyg med en timeout och försök igen ett begränsat antal gånger vid tillfälliga fel. Utan gränser kan en agent hänga sig eller fastna i en oändlig loop.
for attempt in range(3):
try:
return call(timeout=5)
except Timeout:
continue
return 'ERROR: timed out after 3 attempts'Faran med kraftfulla verktyg
Ett verktyg som kör skalkommandon eller exekverar SQL kan orsaka verklig skada om agenten luras eller förvirras. Befogenheter måste kombineras med begränsningar.
Minsta möjliga behörighet
Ge varje verktyg endast den åtkomst det behöver. Ett läsverktyg ska inte kunna skriva. Ett frågeverktyg ska använda en skrivskyddad databasroll.
# read-only DB connection for the query tool
conn = connect(user='reader', readonly=True)Tillåtandelistor framför blockeringslistor
Att försöka blockera varje farlig åtgärd är en hopplös uppgift. Tillåt i stället endast en uttryckligen angiven uppsättning säkra åtgärder och avvisa allt annat som standard.
ALLOWED = {'read_file', 'list_dir', 'search'}
if action not in ALLOWED:
return 'ERROR: action not permitted'Godkännande med människa i loopen
För åtgärder med stor påverkan, som att skicka pengar eller radera data, ska ni pausa och kräva mänsklig bekräftelse innan åtgärden utförs. Agenten föreslår; en person godkänner.
if action.is_destructive:
return await request_human_approval(action)Förhindra oändliga loopar
Agenter kan fastna i att försöka köra samma felande verktyg om och om igen. Begränsa antalet steg och upptäck upprepade identiska åtgärder. Avsluta med ett tydligt meddelande i stället för att förbruka tokens för alltid.
agent = initialize_agent(tools, llm, max_iterations=8)Loggning för granskning
Registrera varje verktygsanrop med dess indata, utdata och resultat. Detta granskningsspår är avgörande för felsökning av agentens beteende och för att upptäcka osäkra åtgärder i efterhand.
Ett säkert arbetsflöde för verktyg
Så här sätter ni ihop det:
- Returnera fel som observationer, inte som krascher
- Validera indata och begränsa timeouter och återförsök
- Tillämpa minsta möjliga behörighet och tillåtandelistor
- Kräv godkännande för destruktiva åtgärder
- Begränsa iterationer och logga varje anrop
Snabbtest
Testa era kunskaper om säker verktygskörning.
Sammanfattning
Ni har lärt er att göra agentverktyg motståndskraftiga och säkra.
- Gör fel till observationer som agenten kan hantera
- Validera indata och begränsa timeouter, återförsök och iterationer
- Tillämpa minsta möjliga behörighet och tillåtandelistor
- Kräv godkännande för destruktiva åtgärder och logga allt
Lär dig AI-agenter med LangChain och autonoma arbetsflöden med en AI-lärare – gratis
Skriv och kör riktig kod i webbläsaren, få omedelbar hjälp av en AI-lärare dygnet runt och fortsätt där du slutade – på webben eller i appen.
- Kurser
- 12
- Lektioner
- 50
Vanliga frågor
Är lektionen ”Felhantering och säker körning av verktyg” gratis?
Ja – hela texten till ”Felhantering och säker körning av verktyg” kan läsas gratis här på webben. Om Ni vill öva interaktivt med en inbyggd kodredigerare och en AI-handledare som är tillgänglig dygnet runt och låsa upp resten av kursen i AI-agenter med LangChain och autonoma arbetsflöden, kan Ni uppgradera till CoddyKit PRO. Kursen i AI-agenter med LangChain och autonoma arbetsflöden innehåller totalt 4 lektioner.
Vad lär jag mig i ”Felhantering och säker körning av verktyg”?
Gör agentverktyg robusta och säkra genom att hantera fel på ett kontrollerat sätt, validera indata och begränsa vad verktygen får göra under autonom körning. Ni övar på AI-agenter med LangChain och autonoma arbetsflöden med praktisk kod som körs direkt i webbläsaren, medan en AI-handledare som är tillgänglig dygnet runt svarar på Era frågor under lektionen.
Behöver jag någon erfarenhet för att börja lära mig AI-agenter med LangChain och autonoma arbetsflöden?
Du behöver inga förkunskaper. Utbildningen i AI-agenter med LangChain och autonoma arbetsflöden på CoddyKit är upplagd för allt från nybörjare till avancerade elever, så att du kan börja här eller från början och gå fram i din egen takt. Detta är lektion 4 av 4.
Hur lång tid tar lektionen ”Felhantering och säker körning av verktyg”?
De flesta CoddyKit-lektioner tar cirka 5–10 minuter. Varje lektion är kort och interaktiv, så att du gör stadiga framsteg och kan fortsätta precis där du slutade – på webben eller i appen.
Kan jag skriva och köra kod i den här AI-agenter med LangChain och autonoma arbetsflöden-lektionen?
Ja. Varje AI-agenter med LangChain och autonoma arbetsflöden-lektion innehåller en inbyggd kodredigerare, så att du kan skriva och köra riktig kod direkt i webbläsaren och få omedelbar AI-feedback – utan lokal installation.
Alla lektioner i den här kursen
- Definiera och använda Tools
- Agenttyper och beslutsfattande
- Använd färdigbyggda verktygspaket
- Felhantering och säker körning av verktyg