Virheenkäsittely ja työkalujen turvallinen suoritus
Teette agenttien työkaluista vikasietoisia ja turvallisia käsittelemällä virheet hallitusti, validoimalla syötteet ja rajoittamalla työkalujen sallittuja toimintoja autonomisen suorituksen aikana.
Virheenkäsittely ja työkalujen turvallinen suoritus on ilmainen Tekoälyagentit LangChainilla ja autonomiset työnkulut-oppitunti CoddyKitissä. Tämä on oppitunti 4/4. Voit lukea koko oppitunnin alta ilmaiseksi ja harjoitella sen jälkeen käytännössä selaimessa sisäänrakennetulla koodieditorilla ja ympäri vuorokauden käytettävissä olevan tekoälytuutorin avulla. Oppitunti kuuluu Tekoälyagentit LangChainilla ja autonomiset työnkulut-oppimispolkuun, ja edistymisesi synkronoituu verkon ja CoddyKit-sovelluksen välillä. Tekoälyagentit LangChainilla ja autonomiset työnkulut-kurssilla on yhteensä 4 oppituntia.
Työkalut epäonnistuvat
Agentit kutsuvat ulkoisia työkaluja: rajapintoja, tietokantoja ja komentotulkkeja. Niiden aikakatkaisu voi laueta, ne voivat palauttaa virheitä tai toimia odottamattomasti. Agentti, joka kaatuu ensimmäiseen virheeseen, on tuotannossa hyödytön.
Tässä oppitunnissa käsitellään työkalujen suorittamisen tekemistä turvalliseksi ja vikasietoiseksi.
Virheiden palauttaminen havaintoina
Poikkeuksen heittämisen sijaan työkalun tulee palauttaa virhe viestinä, jonka agentti voi lukea. Näin agentti voi päätellä virheen syyn ja kokeilla toista lähestymistapaa.
def search(q):
try:
return api.search(q)
except Exception as e:
return 'ERROR: search failed: ' + str(e)Työkalusyötteiden validointi
LLM-mallit välittävät toisinaan järjettömiä argumentteja. Validoi syötteet ennen toiminnon suorittamista, jotta virheellinen kysely ei koskaan päädy oikeaan järjestelmään.
def get_user(user_id):
if not str(user_id).isdigit():
return 'ERROR: user_id must be numeric'
return db.fetch(user_id)Aikakatkaisut ja uudelleenyritykset
Rajoita hitaat työkalut aikakatkaisulla ja yritä tilapäisten virheiden jälkeen uudelleen rajatun määrän kertoja. Ilman rajoja agentti voi jumittua tai jäädä ikuiseen silmukkaan.
for attempt in range(3):
try:
return call(timeout=5)
except Timeout:
continue
return 'ERROR: timed out after 3 attempts'Tehokkaiden työkalujen vaarat
Komentotulkkikomentoja suorittava tai SQL-kyselyitä ajava työkalu voi aiheuttaa todellista vahinkoa, jos agentti huijataan tai se hämmentyy. Tehokkuuden rinnalle tarvitaan rajoituksia.
Vähimpien oikeuksien periaate
Anna kullekin työkalulle vain sen tarvitsemat käyttöoikeudet. Lukutyökalulla ei pitäisi olla kirjoitusoikeutta. Kyselytyökalun tulisi käyttää vain lukuun tarkoitettua tietokantaroolia.
# read-only DB connection for the query tool
conn = connect(user='reader', readonly=True)Sallitut luettelot estoluetteloiden sijaan
Kaikkien vaarallisten toimintojen estäminen on häviävä peli. Salli sen sijaan vain nimenomainen joukko turvallisia toimintoja ja hylkää kaikki muu oletusarvoisesti.
ALLOWED = {'read_file', 'list_dir', 'search'}
if action not in ALLOWED:
return 'ERROR: action not permitted'Ihminen hyväksymässä toiminnon
Keskeytä vaikuttavien toimintojen, kuten rahansiirron tai tietojen poistamisen, yhteydessä ja vaadi ihmisen vahvistus ennen suorittamista. Agentti ehdottaa, ihminen hyväksyy.
if action.is_destructive:
return await request_human_approval(action)Ikuisten silmukoiden estäminen
Agentit voivat jäädä yrittämään samaa epäonnistuvaa työkalua uudelleen. Rajoita vaiheiden määrää ja havaitse toistuvat samanlaiset toiminnot. Pysäytä suoritus selkeään viestiin sen sijaan, että tokeneita kulutettaisiin loputtomasti.
agent = initialize_agent(tools, llm, max_iterations=8)Kirjaaminen auditointia varten
Kirjaa jokainen työkalukutsu syötteineen, tulosteineen ja lopputuloksineen. Tämä auditointijälki on välttämätön agentin toiminnan virheenkorjauksessa ja vaarallisten toimintojen havaitsemisessa jälkikäteen.
Turvallinen työkalujen työnkulku
Kootaan kokonaisuus yhteen:
- Palauta virheet havaintoina, älä aiheuta kaatumista
- Validoi syötteet ja rajoita aikakatkaisuja sekä uudelleenyrityksiä
- Sovella vähimpien oikeuksien periaatetta ja sallittuja luetteloita
- Vaadi hyväksyntä tuhoaville toiminnoille
- Rajoita iteraatioiden määrää ja kirjaa jokainen kutsu
Pikatarkistus
Testaa ymmärryksesi turvallisesta työkalujen suorittamisesta.
Kertaus
Opit tekemään agenttien työkaluista vikasietoisia ja turvallisia.
- Tuo virheet esiin havaintoina, joita agentti voi käsitellä
- Validoi syötteet ja rajoita aikakatkaisuja, uudelleenyrityksiä ja iteraatioita
- Sovella vähimpien oikeuksien periaatetta ja sallittuja luetteloita
- Vaadi hyväksyntä tuhoaville toiminnoille ja kirjaa kaikki
Opi Tekoälyagentit LangChainilla ja autonomiset työnkulut tekoälytuutorin avulla — ilmaiseksi
Kirjoita ja suorita oikeaa koodia selaimessa, saa välitöntä apua tekoälytuutorilta ympäri vuorokauden ja jatka siitä, mihin jäit, verkossa tai sovelluksessa.
- Kurssit
- 12
- Oppitunnit
- 50
Usein kysytyt kysymykset
Onko oppitunti ”Virheenkäsittely ja työkalujen turvallinen suoritus” ilmainen?
Kyllä – oppitunnin ”Virheenkäsittely ja työkalujen turvallinen suoritus” koko tekstin voi lukea täällä verkossa ilmaiseksi. Jos haluat harjoitella interaktiivisesti sisäänrakennetulla koodieditorilla ja ympäri vuorokauden käytettävissä olevan tekoälytuutorin avulla sekä avata koko Tekoälyagentit LangChainilla ja autonomiset työnkulut-kurssin, päivitä CoddyKit PROhon. Tekoälyagentit LangChainilla ja autonomiset työnkulut-kurssilla on yhteensä 4 oppituntia.
Mitä opin oppitunnilla ”Virheenkäsittely ja työkalujen turvallinen suoritus”?
Teette agenttien työkaluista vikasietoisia ja turvallisia käsittelemällä virheet hallitusti, validoimalla syötteet ja rajoittamalla työkalujen sallittuja toimintoja autonomisen suorituksen aikana. Harjoittelet Tekoälyagentit LangChainilla ja autonomiset työnkulut-aihetta koodilla, jonka suoritat suoraan selaimessa. Ympäri vuorokauden käytettävissä oleva tekoälytuutori vastaa kysymyksiisi oppitunnin aikana.
Tarvitsenko kokemusta aloittaakseni Tekoälyagentit LangChainilla ja autonomiset työnkulut-opiskelun?
Aiempi kokemus ei ole tarpeen. CoddyKitin Tekoälyagentit LangChainilla ja autonomiset työnkulut-oppimispolku sopii vasta-alkajista edistyneisiin, joten voit aloittaa tästä tai alusta ja edetä omaan tahtiisi. Tämä on oppitunti 4/4.
Kuinka kauan ”Virheenkäsittely ja työkalujen turvallinen suoritus”-oppitunnin suorittaminen kestää?
Useimmat CoddyKitin oppitunnit kestävät noin 5–10 minuuttia. Jokainen oppitunti on lyhyt ja interaktiivinen, joten edistyt tasaisesti ja voit jatkaa siitä, mihin jäit – sekä verkossa että sovelluksessa.
Voinko kirjoittaa ja suorittaa koodia tällä Tekoälyagentit LangChainilla ja autonomiset työnkulut-oppitunnilla?
Kyllä. Jokainen Tekoälyagentit LangChainilla ja autonomiset työnkulut-oppitunti sisältää sisäänrakennetun koodieditorin, joten voit kirjoittaa ja suorittaa oikeaa koodia suoraan selaimessa ja saada välitöntä palautetta tekoälyltä – paikallista asennusta ei tarvita.
Kaikki tämän kurssin oppitunnit
- Työkalujen määrittäminen ja käyttäminen
- Agenttityypit ja päätöksenteko
- Valmiiden työkalupakettien hyödyntäminen
- Virheenkäsittely ja työkalujen turvallinen suoritus