Tekoälyn prompt engineering · Oppitunti

Mukautetut työkalut ja liitännäiset LLM:ille

Kehitä ja integroi mukautettuja työkaluja, joita LLM:t voivat hyödyntää laajentaakseen ominaisuuksiaan ydintietämyksensä ulkopuolelle.

Oppitunti 3/311 vaihetta

Mukautetut työkalut ja liitännäiset LLM:ille on ilmainen Tekoälyn prompt engineering-oppitunti CoddyKitissä. Tämä on oppitunti 3/3. Voit lukea tästä oppimispolusta kokonaan mitkä tahansa 3 oppituntia ilmaiseksi — sen jälkeen CoddyKit PRO avaa kaikki oppitunnit sekä käytännön harjoittelun sisäänrakennetulla koodieditorilla ja ympäri vuorokauden toimivalla tekoälytuutorilla. Oppitunti kuuluu Tekoälyn prompt engineering-oppimispolkuun, ja edistymisesi synkronoituu verkon ja CoddyKit-sovelluksen välillä. Tekoälyn prompt engineering-kurssilla on yhteensä 3 oppituntia.

Mitä mukautetut työkalut ovat

Tervetuloa kurssimme 'Advanced Prompting with Tool Use and Agents' viimeiseen oppituntiin! Tänään perehdymme mukautettuihin työkaluihin ja lisäosiin, joita käytetään suurten kielimallien (LLM:t) kanssa.

Mukautettujen työkalujen avulla LLM:t voivat ylittää koulutusdatansa rajat ja olla vuorovaikutuksessa todellisen maailman tai tiettyjen järjestelmien kanssa. Ajatelkaa niitä erityistaitoina, joita opetatte LLM:lle.

Laajenna ominaisuuksia: Lisää uusia toimintoja.
Käytä reaaliaikaista dataa: Hae ajantasaisia tietoja.
Suorita toimintoja: Tee muutoksia ulkoisiin järjestelmiin.

Mukautetut ja sisäiset ominaisuudet

Olette tutustunut perusmuotoisiin funktiokutsuihin ja API-integraatioon. Mukautetut työkalut vievät tätä vielä pidemmälle.

Vaikka LLM saattaa luonnostaan osata tiivistää tekstiä, se ei osaa tarkistaa Lontoon säätä, ellette tarjoa sille työkalua. Mukautetut työkalut täyttävät tämän aukon antamalla LLM:lle tarkat ulkoiset valmiudet, jotka eivät kuulu sen perustietopohjaan.

Mukautetun työkalun rakenne

Jokainen mukautettu työkalu tarvitsee selkeän määritelmän, jotta LLM tietää, milloin ja miten sitä käytetään. Keskeisiä osia ovat:

Nimi: Yksilöllinen tunniste (esim. get_current_time).
Kuvaus: Selittää, mitä työkalu tekee ja milloin sitä käytetään. Tämä on ratkaisevan tärkeää LLM:n päätöksenteon kannalta.
Parametrit: Työkalun toimintaan tarvitsemat syötteet (esim. timezone kellonaikatyökalua varten).
Odotettu tuloste: Millaisia tietoja työkalu palauttaa.

Työkalujen kuvaaminen skeeman avulla

Jotta LLM:lle voidaan "opettaa" mukautettu työkalu, annamme sen määritelmän jäsennellyssä muodossa, usein JSON-skeemana. Tämä skeema kertoo LLM:lle kaiken, mitä se tarvitsee työkalun oikeaoppiseen kutsumiseen.

Tässä on yksinkertaistettu esimerkki siitä, miltä get_current_time-työkalu voitaisiin kuvata:

{
  "name": "get_current_time",
  "description": "Gets the current time in a specified timezone.",
  "parameters": {
    "type": "object",
    "properties": {
      "timezone": {
        "type": "string",
        "description": "The timezone to get the time for (e.g., UTC, America/New_York)."
      }
    },
    "required": []
  }
}

Yksinkertaisen työkalun rakentaminen: Get Time

Luodaan käytännön esimerkki: työkalu nimeltä get_current_time. Tämä työkalu palauttaa nykyisen kellonajan, haluttaessa tietyllä aikavyöhykkeellä.

Vaikka LLM ymmärtää skeemasta peräisin olevan kuvauksen, me vastaamme varsinaisen toiminnon suorittavan koodin kirjoittamisesta. Tämä koodi suoritetaan ulkoisesti, kun LLM päättää kutsua työkalua.

Esimerkki työkalun toteutuksesta

Tämä Python-koodikatkelma näyttää, miltä get_current_time-työkalu saattaa näyttää taustalla. Kun LLM kutsuu työkalua, se suorittaa tämän funktion (tai vastaavan logiikan valitsemallanne kielellä) ja saa tuloksen.

Kokeilkaa suorittaa se nähdäksenne sen tulosteen!

import datetime

def get_current_time(timezone="UTC"):
    """
    Returns the current time in the specified timezone.
    """
    # For simplicity, we'll return UTC time and note timezone
    now = datetime.datetime.now(datetime.timezone.utc)
    return f"Current time in {timezone}: {now.strftime('%Y-%m-%d %H:%M:%S')} (UTC basis)"

# This is the entry point that would be called by the LLM's integration layer
if __name__ == "__main__":
    print(get_current_time())
    print(get_current_time(timezone="America/New_York"))

LLM:n työkalukutsun kulku

Näin LLM yleensä käyttää mukautettua työkalua:

Käyttäjän kehote: Esitätte LLM:lle kysymyksen (esim. "Paljonko kello on New Yorkissa?").
LLM:n päätös: LLM analysoi kehotteenne ja käytettävissä olevien työkalujen kuvaukset.
Työkalukutsu: Jos jokin työkalu on sopiva, LLM muodostaa työkalukutsun (esim. get_current_time(timezone="America/New_York")).
Suoritus: Järjestelmänne suorittaa varsinaisen työkalukoodin.
Tulos: Työkalun tuloste palautetaan LLM:lle.
LLM:n vastaus: LLM käyttää työkalun tulostetta lopullisen vastauksen muotoilemiseen.

Kehotteet mukautettujen työkalujen kanssa

Kun kehotatte LLM:ää, jolla on pääsy mukautettuihin työkaluihin, teidän ei tarvitse käskeä sitä erikseen käyttämään työkalua. Esittäkää sille vain kysymys, joka edellyttää työkalun käyttöä.

LLM:n kyky ymmärtää työkalun kuvaus on ratkaisevan tärkeä. Hyvä kuvaus auttaa LLM:ää valitsemaan oikean työkalun oikealla hetkellä.

Kehote: "What is the current time right now?"
LLM:n toiminto: Kutsuu get_current_time()
Työkalun tuloste: "Current time in UTC: 2023-10-27 10:30:00 (UTC basis)"
LLM:n vastaus: "The current time is 10:30 AM UTC."

Mukautettujen työkalujen hyödyt

Mukautetut työkalut avaavat LLM:ille tehokkaita valmiuksia:

Toimialakohtaisuus: Tarjoaa LLM:ille yleisen koulutuksen ylittävää tietoa.
Reaaliaikainen vuorovaikutus: Mahdollistaa ajantasaisimpien tietojen käytön (esim. osakekurssit ja sää).
Toimintoja suorittava tekoäly: Mahdollistaa LLM:ien suorittaa toimintoja (esim. lähettää sähköposteja ja varata aikoja).
Parempi tarkkuus: Vähentää hallusinaatioita tukeutumalla työkalujen tuottamiin tosiasioihin.
Modulaarisuus: Pitää LLM:n logiikan erillään ulkoisten järjestelmien kanssa tapahtuvasta vuorovaikutuksesta.

Pikatesti: Mukautetut työkalut

Mitkä seuraavista ovat olennaisia osia mukautetun työkalun määritelmässä LLM:ää varten?

Vastaa interaktiivisessa oppitunnissa

Kertaus: Laajenna LLM:n tehoa

Tässä oppitunnissa tarkastelimme mukautettuja työkaluja ja lisäosia, jotka ovat tehokas tapa laajentaa LLM:ien ominaisuuksia.

Mukautettujen työkalujen avulla LLM:t voivat olla vuorovaikutuksessa ulkoisten järjestelmien ja datan kanssa.
Ne edellyttävät selkeää määritelmää (nimi, kuvaus ja parametrit), jossa käytetään usein JSON-skeemaa.
Te toteutatte varsinaisen logiikan, joka suoritetaan, kun LLM kutsuu työkalua.
Mukautettujen työkalujen avulla LLM:t voivat hankkia toimialakohtaista tietoa, käyttää reaaliaikaista dataa ja suorittaa toimintoja, mikä vie ne pelkkää tekstin tuottamista pidemmälle.

Kun hallitsette mukautetut työkalut, voitte rakentaa todella älykkäitä ja vuorovaikutteisia tekoälysovelluksia!

Aloita maksutta

Opi Tekoälyn prompt engineering tekoälytuutorin avulla — ilmaiseksi

Kirjoita ja suorita oikeaa koodia selaimessa, saa välitöntä apua tekoälytuutorilta ympäri vuorokauden ja jatka siitä, mihin jäit, verkossa tai sovelluksessa.

Kurssit: 53
Oppitunnit: 199

Aloita opiskelu maksutta Näytä koko kurssi

Usein kysytyt kysymykset

Onko oppitunti ”Mukautetut työkalut ja liitännäiset LLM:ille” ilmainen?

Kyllä — voit lukea täällä verkossa kokonaan ilmaiseksi mitkä tahansa Tekoälyn prompt engineering-oppimispolun 3 oppituntia, myös oppitunnin “Mukautetut työkalut ja liitännäiset LLM:ille”. Sen jälkeen CoddyKit PRO avaa kaikki oppitunnit sekä interaktiiviset harjoitukset sisäänrakennetulla koodieditorilla ja ympäri vuorokauden toimivalla tekoälytuutorilla. Tekoälyn prompt engineering-kurssilla on yhteensä 3 oppituntia.

Mitä opin oppitunnilla ”Mukautetut työkalut ja liitännäiset LLM:ille”?

Kehitä ja integroi mukautettuja työkaluja, joita LLM:t voivat hyödyntää laajentaakseen ominaisuuksiaan ydintietämyksensä ulkopuolelle. Harjoittelet Tekoälyn prompt engineering-aihetta koodilla, jonka suoritat suoraan selaimessa. Ympäri vuorokauden käytettävissä oleva tekoälytuutori vastaa kysymyksiisi oppitunnin aikana.

Tarvitsenko kokemusta aloittaakseni Tekoälyn prompt engineering-opiskelun?

Aiempi kokemus ei ole tarpeen. CoddyKitin Tekoälyn prompt engineering-oppimispolku sopii vasta-alkajista edistyneisiin, joten voit aloittaa tästä tai alusta ja edetä omaan tahtiisi. Tämä on oppitunti 3/3.

Kuinka kauan ”Mukautetut työkalut ja liitännäiset LLM:ille”-oppitunnin suorittaminen kestää?

Useimmat CoddyKitin oppitunnit kestävät noin 5–10 minuuttia. Jokainen oppitunti on lyhyt ja interaktiivinen, joten edistyt tasaisesti ja voit jatkaa siitä, mihin jäit – sekä verkossa että sovelluksessa.

Voinko kirjoittaa ja suorittaa koodia tällä Tekoälyn prompt engineering-oppitunnilla?

Kyllä. Jokainen Tekoälyn prompt engineering-oppitunti sisältää sisäänrakennetun koodieditorin, joten voit kirjoittaa ja suorittaa oikeaa koodia suoraan selaimessa ja saada välitöntä palautetta tekoälyltä – paikallista asennusta ei tarvita.

Kaikki tämän kurssin oppitunnit

Funktiokutsut ja API-integraatio
Moniagenttiset promptausjärjestelmät
Mukautetut työkalut ja liitännäiset LLM:ille

← Takaisin: Tekoälyn prompt engineering