Llama-, Mistral- ja Qwen-mallien yleiskatsaus
Tutustukaa kolmeen suureen avoimien painojen malliperheeseen: lisensseihin, kokoihin ja siihen, mihin kukin sopii.
Llama-, Mistral- ja Qwen-mallien yleiskatsaus on ilmainen Tekoälyagentit-oppitunti CoddyKitissä. Tämä on oppitunti 1/4. Voit lukea koko oppitunnin alta ilmaiseksi ja harjoitella sen jälkeen käytännössä selaimessa sisäänrakennetulla koodieditorilla ja ympäri vuorokauden käytettävissä olevan tekoälytuutorin avulla. Oppitunti kuuluu Tekoälyagentit-oppimispolkuun, ja edistymisesi synkronoituu verkon ja CoddyKit-sovelluksen välillä. Tekoälyagentit-kurssilla on yhteensä 4 oppituntia.
Osaa tämän oppitunnin sisällöstä ei ole vielä käännetty, joten se näytetään englanniksi.
Miksi avoin lähdekoodi?
Avoimien painojen mallit tarjoavat:
- ei token-kohtaista API-maksua
- tietosuojan — malli toimii omalla laitteistollanne
- räätälöinnin (hienosäädön) missä tahansa mittakaavassa
- ei toimittajalukkoa
Haittapuolena ovat insinöörien työaika, GPU-kulut ja yleensä heikompi laatu aivan kärkitasolla.
Llama-perhe (Meta)
- Julkaistu vuosina 2023–2025 koossa 1B–405B
- Llama 3.x on erittäin suorituskykyinen; 8B kilpailee keskitason suljettujen mallien kanssa
- Yhteisölisenssi (sallii kaupallisen käytön tietyin ehdoin)
- Laaja ekosysteemi; useimmat hienosäädetyt mallit perustuvat Llamaan
Mistral-perhe (Mistral AI)
- Mistral 7B Instruct — vahva pieni malli
- Mixtral 8x7B — Mixture-of-Experts, nopea ja suorituskykyinen
- Mistral Large / Medium — suljetut painot, saatavilla API:n kautta
- Apache 2.0 -lisenssi avoimille varianteille
Qwen-perhe (Alibaba)
- Qwen 2.5 — huippuluokan avoimien painojen päättelymalli (2024)
- Erinomainen monikielinen tuki, erityisesti kiinalle
- Koot 0.5B:stä 72B:hen
- Apache 2.0
Muita huomionarvoisia malleja
- Gemma (Google) — pieni ja viimeistelty
- Phi (Microsoft) — pieni mutta suorituskykyinen
- DeepSeek — vahva päättely edullisemmin
- Yi — vahva monikielinen tuki
Koon valinta
| Koko | Käyttötapaus |
|---|---|
| 1-3B | Reunalaitteet, mobiililaitteet, luokittelu |
| 7-8B | Yksi GPU, yksinkertaiset agentit |
| 13-30B | Suurempi GPU tai 2–4 pientä GPU:ta, todelliset agentit |
| 70B+ | Useita GPU:ita, huipputason laatu |
Merkitykselliset vertailutestit
- MMLU — yleinen tietämys
- GSM8K — matematiikka
- HumanEval — koodi
- MT-Bench — keskustelun laatu
- HELM / LMSYS Chatbot Arena — ihmisten mieltymykset
Valitkaa vertailutestit, jotka vastaavat TEHTÄVÄÄNNE.
Kuilu huipputason malleihin kapenee
Huipputason suljetut mallit (GPT-4o, Claude Sonnet 4.5) ovat edelleen edellä vaikeimmissa vertailutesteissä. Avoimien painojen 70B-mallit kuitenkin vastaavat useimmissa agenttitehtävissä suljettujen mallien keskitason malleja.
Lisenssin huomioiminen
Tarkistakaa jokaisen mallin lisenssi:
- Apache 2.0 — täysin salliva
- Llama Community License — rajoituksia erittäin suuren mittakaavan palveluille ja tietyille käyttötapauksille
- Jotkin "vain tutkimukseen" -lisenssit — kaupallinen käyttöönotto ei ole sallittua
Palveluna tarjottu vs itse ylläpidetty
Voitte käyttää avoimia malleja palveluna tarjottujen API-rajapintojen kautta (Together AI, Anyscale, Groq, Fireworks) ilman oman infrastruktuurin ylläpitoa — usein halvemmalla kuin OpenAI:n kautta samalla laadulla.
Hosted Open Models on Groq
from openai import OpenAI
client = OpenAI(
base_url='https://api.groq.com/openai/v1',
api_key=GROQ_KEY
)
response = client.chat.completions.create(
model='llama-3.1-70b-versatile',
messages=[{'role': 'user', 'content': 'Hello'}]
)Milloin OSS-mallit ovat etulyöntiasemassa
- Kun tietosuoja on kriittinen: lääketiede, laki, puolustus
- Kun käyttömäärä on erittäin suuri: sentin murto-osillakin pyyntöä kohden on merkitystä
- Kun tarvitaan paljon räätälöintiä: tietylle toimialalle hienosäädetyt mallit
- Monikielisissä käyttötapauksissa, joissa suljetut palveluntarjoajat ovat heikkoja
Milloin suljetut mallit ovat etulyöntiasemassa
- Huipputason päättely
- Monimodaalisuus (näkö, ääni)
- Pitkä konteksti: Claude / Gemini ovat edelleen edellä
- Nopea prototypointi
Pienin suorituskykyinen malli
Mikä kokoluokka on tyypillinen yksinkertaiselle sisäiselle agentille, joka toimii yhdellä GPU:lla?
Kertaus
Llama, Mistral ja Qwen ovat kolme suurta nimeä. Valitkaa pienin laatutavoitteet täyttävä koko. Palveluntarjoajat (Groq, Together) auttavat välttämään oman infrastruktuurin.
Opi Tekoälyagentit tekoälytuutorin avulla — ilmaiseksi
Kirjoita ja suorita oikeaa koodia selaimessa, saa välitöntä apua tekoälytuutorilta ympäri vuorokauden ja jatka siitä, mihin jäit, verkossa tai sovelluksessa.
- Kurssit
- 60
- Oppitunnit
- 239
Usein kysytyt kysymykset
Onko oppitunti ”Llama-, Mistral- ja Qwen-mallien yleiskatsaus” ilmainen?
Kyllä – oppitunnin ”Llama-, Mistral- ja Qwen-mallien yleiskatsaus” koko tekstin voi lukea täällä verkossa ilmaiseksi. Jos haluat harjoitella interaktiivisesti sisäänrakennetulla koodieditorilla ja ympäri vuorokauden käytettävissä olevan tekoälytuutorin avulla sekä avata koko Tekoälyagentit-kurssin, päivitä CoddyKit PROhon. Tekoälyagentit-kurssilla on yhteensä 4 oppituntia.
Mitä opin oppitunnilla ”Llama-, Mistral- ja Qwen-mallien yleiskatsaus”?
Tutustukaa kolmeen suureen avoimien painojen malliperheeseen: lisensseihin, kokoihin ja siihen, mihin kukin sopii. Harjoittelet Tekoälyagentit-aihetta koodilla, jonka suoritat suoraan selaimessa. Ympäri vuorokauden käytettävissä oleva tekoälytuutori vastaa kysymyksiisi oppitunnin aikana.
Tarvitsenko kokemusta aloittaakseni Tekoälyagentit-opiskelun?
Aiempi kokemus ei ole tarpeen. CoddyKitin Tekoälyagentit-oppimispolku sopii vasta-alkajista edistyneisiin, joten voit aloittaa tästä tai alusta ja edetä omaan tahtiisi. Tämä on oppitunti 1/4.
Kuinka kauan ”Llama-, Mistral- ja Qwen-mallien yleiskatsaus”-oppitunnin suorittaminen kestää?
Useimmat CoddyKitin oppitunnit kestävät noin 5–10 minuuttia. Jokainen oppitunti on lyhyt ja interaktiivinen, joten edistyt tasaisesti ja voit jatkaa siitä, mihin jäit – sekä verkossa että sovelluksessa.
Voinko kirjoittaa ja suorittaa koodia tällä Tekoälyagentit-oppitunnilla?
Kyllä. Jokainen Tekoälyagentit-oppitunti sisältää sisäänrakennetun koodieditorin, joten voit kirjoittaa ja suorittaa oikeaa koodia suoraan selaimessa ja saada välitöntä palautetta tekoälyltä – paikallista asennusta ei tarvita.
Kaikki tämän kurssin oppitunnit
- Llama-, Mistral- ja Qwen-mallien yleiskatsaus
- Paikallisten mallien suorittaminen Ollamalla ja llama.cpp:llä
- Avoimien mallien funktionkutsut (Hermes, Functionary)
- Kompromissit: viive, kustannukset ja kyvykkyys