Tekoälyagentit · Oppitunti

Milloin hienosäätö päihittää kehotteet

Hienosäätäkää malleja kapeisiin tehtäviin ja mukautettuihin muotoihin tai kehotteiden lyhentämiseksi — älkää uusien faktojen opettamiseen.

Oppitunti 1/414 vaihetta

Milloin hienosäätö päihittää kehotteet on ilmainen Tekoälyagentit-oppitunti CoddyKitissä. Tämä on oppitunti 1/4. Voit lukea koko oppitunnin alta ilmaiseksi ja harjoitella sen jälkeen käytännössä selaimessa sisäänrakennetulla koodieditorilla ja ympäri vuorokauden käytettävissä olevan tekoälytuutorin avulla. Oppitunti kuuluu Tekoälyagentit-oppimispolkuun, ja edistymisesi synkronoituu verkon ja CoddyKit-sovelluksen välillä. Tekoälyagentit-kurssilla on yhteensä 4 oppituntia.

Ensin kehotteet, sitten hienosäätö

Viimeistelkä kehotteet aina ensin ennen hienosäädön kokeilemista:

  1. Parempi järjestelmäkehote
  2. Muutaman esimerkin esimerkit
  3. Työkalujen kuvaukset
  4. Parempi malli
  5. Rakenteiset tulosteet / Pydantic
  6. RAG
  7. ... SITTEN hienosäätö

Milloin hienosäädöstä on hyötyä

  • Tietty muoto tai tyyli — oma YAML-tulostekielenne
  • Kapea toimiala — lääketiede, juridiikka, koodikatselmukset
  • Viive — lyhyet kehotteet (ei few-shot-esimerkkejä) -> nopeampi päättely
  • Kustannukset — lyhyemmät kehotteet -> vähemmän laskutettavia tokeneita
  • Yhtenäinen persoona — hahmon ääni, brändin sävy

Milloin hienosäätöstä on haittaa

  • Faktojen opettaminen — RAG on parempi. Hienosäädetyt mallit unohtavat faktat
  • Yleinen päättely — huippumallit ovat jo erinomaisia
  • Usein päivittyvät tiedot — uudelleenkoulutus on hidasta
  • Pienet aineistot — alle 100 esimerkkiä vaikuttaa tuloksiin harvoin

Suljettujen mallien hienosäätö

OpenAI ja Anthropic tarjoavat molemmat hienosäätörajapintoja:

# OpenAI:
client.fine_tuning.jobs.create(
    training_file='file-abc',
    model='gpt-4o-mini-2024-07-18'
)

Avoimien mallien hienosäätö

Llaman, Mistralin ja Qwenin kanssa hallitsette kaikkea itse. Työkaluja ovat:

  • Unsloth — nopein, vähäinen VRAM-tarve
  • Axolotl — asetuksiin perustuva ja kattava
  • LLaMA-Factory — kiinalaistiimin vaihtoehto
  • HuggingFace TRL — virallinen ja joustava

Täysi hienosäätö vai PEFT

Kaksi lähestymistapaa:

  • Täysi — päivitetään jokainen painoarvo. Kallista (tarvitaan valtavasti VRAM-muistia).
  • PEFT / LoRA — koulutetaan pieniä sovitinkerroksia. 100 kertaa edullisempi ja useimmissa tehtävissä laadultaan vastaava.

Hienosäädön kustannukset (OpenAI)

Arvio (vuoden 2025 puolivälissä):

  • Koulutus: 0,003 $ / 1 000 tokenia
  • Päättely hienosäädetyllä mallilla: jonkin verran perusmallia kalliimpaa
  • Kymmeniä tuhansia esimerkkejä: koulutuksen kokonaiskustannukset 20–200 $

Hienosäädön kustannukset (itse ylläpidetty)

Yksi 8xH100-tunti: noin 100 $ Lambda Labsilla. Llama 70B:n LoRA-hienosäätö 10 000 näytteellä: yhteensä noin 50–150 $.

Nyrkkisääntö aineiston koolle

  • 50 esimerkkiä — hyödyllisiä vain tyylin ja muodon oppimiseen
  • 500 esimerkkiä — merkittäviä parannuksia
  • Vähintään 5 000 esimerkkiä — huomattavasti uusiin kyvykkyyksiin
  • Vähintään 50 000 esimerkkiä — vähenevä hyöty aineiston laatuun verrattuna

Mistä aineisto tulee?

  1. Tuotantoajojen jäljet (korjauksineen)
  2. Vahvemman mallin tuottama synteettinen aineisto
  3. Ihmisten tekemät merkinnät
  4. Julkiset aineistot

Hienosäätö, RAG vai kehotesuunnittelu

TavoiteParas lähestymistapa
Uudet faktatRAG
Uusi muotoHienosäätö (tai vahva kehote)
Uusi tyyliHienosäätö
Parempi päättelyVahvempi malli
Pienemmät kustannukset tai viivePienempi malli + hienosäätö

Arviointi ennen hienosäätöä ja sen jälkeen

Vertailkaa hienosäädettyä mallia aina perusmalliin omalla arviointiaineistollanne. Joskus hienosäädetty malli on huonompi — olkaa valmiita hylkäämään se.

Paras syy hienosäätää mallia

Mikä on PARAS syy hienosäätää mallia?

Kertaus

Kokeilkaa ensin kehotteita; hienosäätäkää mallia vain tarkasti rajattuihin muotoilu-, tyyli- tai toimialatarpeisiin. Käyttäkää PEFT- tai LoRA-menetelmää kustannusten pienentämiseen. Arvioikaa aina ennen hienosäätöä ja sen jälkeen.

Aloita maksutta

Opi Tekoälyagentit tekoälytuutorin avulla — ilmaiseksi

Kirjoita ja suorita oikeaa koodia selaimessa, saa välitöntä apua tekoälytuutorilta ympäri vuorokauden ja jatka siitä, mihin jäit, verkossa tai sovelluksessa.

Kurssit
60
Oppitunnit
239

Usein kysytyt kysymykset

Onko oppitunti ”Milloin hienosäätö päihittää kehotteet” ilmainen?

Kyllä – oppitunnin ”Milloin hienosäätö päihittää kehotteet” koko tekstin voi lukea täällä verkossa ilmaiseksi. Jos haluat harjoitella interaktiivisesti sisäänrakennetulla koodieditorilla ja ympäri vuorokauden käytettävissä olevan tekoälytuutorin avulla sekä avata koko Tekoälyagentit-kurssin, päivitä CoddyKit PROhon. Tekoälyagentit-kurssilla on yhteensä 4 oppituntia.

Mitä opin oppitunnilla ”Milloin hienosäätö päihittää kehotteet”?

Hienosäätäkää malleja kapeisiin tehtäviin ja mukautettuihin muotoihin tai kehotteiden lyhentämiseksi — älkää uusien faktojen opettamiseen. Harjoittelet Tekoälyagentit-aihetta koodilla, jonka suoritat suoraan selaimessa. Ympäri vuorokauden käytettävissä oleva tekoälytuutori vastaa kysymyksiisi oppitunnin aikana.

Tarvitsenko kokemusta aloittaakseni Tekoälyagentit-opiskelun?

Aiempi kokemus ei ole tarpeen. CoddyKitin Tekoälyagentit-oppimispolku sopii vasta-alkajista edistyneisiin, joten voit aloittaa tästä tai alusta ja edetä omaan tahtiisi. Tämä on oppitunti 1/4.

Kuinka kauan ”Milloin hienosäätö päihittää kehotteet”-oppitunnin suorittaminen kestää?

Useimmat CoddyKitin oppitunnit kestävät noin 5–10 minuuttia. Jokainen oppitunti on lyhyt ja interaktiivinen, joten edistyt tasaisesti ja voit jatkaa siitä, mihin jäit – sekä verkossa että sovelluksessa.

Voinko kirjoittaa ja suorittaa koodia tällä Tekoälyagentit-oppitunnilla?

Kyllä. Jokainen Tekoälyagentit-oppitunti sisältää sisäänrakennetun koodieditorin, joten voit kirjoittaa ja suorittaa oikeaa koodia suoraan selaimessa ja saada välitöntä palautetta tekoälyltä – paikallista asennusta ei tarvita.

Kaikki tämän kurssin oppitunnit

  1. Milloin hienosäätö päihittää kehotteet
  2. Datan keruu: suorituspolut ja jälkien toisto
  3. LoRA ja QLoRA kustannustehokkaaseen hienosäätöön
  4. Hienosäädettyjen mallien vertailu perusmalliin
← Takaisin: Tekoälyagentit