Ikhtisar Llama, Mistral, dan Qwen
Tiga keluarga model berbobot terbuka terbesar: lisensi, ukuran, dan keunggulan masing-masing.
Ikhtisar Llama, Mistral, dan Qwen adalah pelajaran AI Agents gratis di CoddyKit. Ini adalah pelajaran 1 dari 4. Kamu bisa membaca pelajaran lengkapnya di bawah secara gratis — lalu praktikkan langsung di browser dengan editor kode bawaan dan tutor AI 24/7. Ini adalah bagian dari jalur belajar AI Agents, dan progresmu tersinkronisasi di web dan aplikasi CoddyKit. Kursus AI Agents mencakup 4 pelajaran total.
Bagian dari pelajaran ini belum diterjemahkan dan ditampilkan dalam bahasa Inggris.
Mengapa Sumber Terbuka?
Model dengan bobot terbuka memberi Anda:
- Tidak ada biaya API per token
- Privasi data—model berjalan di perangkat keras Anda
- Penyesuaian (penyetelan halus) pada skala apa pun
- Tidak terikat pada vendor
Biayanya: waktu kerja teknisi, tagihan GPU, dan biasanya kualitas yang lebih buruk dibandingkan model terdepan.
Keluarga Llama (Meta)
- Dirilis pada 2023-2025 dalam ukuran 1B hingga 405B
- Llama 3.x sangat mumpuni; versi 8B mampu bersaing dengan model tertutup kelas menengah
- Lisensi komunitas (mengizinkan penggunaan komersial dengan syarat tertentu)
- Ekosistem yang sangat besar; sebagian besar penyetelan halus berasal dari Llama
Keluarga Mistral (Mistral AI)
- Mistral 7B Instruct—model kecil yang mumpuni
- Mixtral 8x7B—Campuran Pakar, cepat dan mumpuni
- Mistral Large / Medium—bobot tertutup, tersedia melalui API
- Lisensi Apache 2.0 untuk varian terbuka
Keluarga Qwen (Alibaba)
- Qwen 2.5—model penalaran berbobot terbuka teratas (2024)
- Dukungan multibahasa yang sangat baik, terutama bahasa Mandarin
- Ukuran dari 0.5B hingga 72B
- Apache 2.0
Model Lain yang Patut Diperhatikan
- Gemma (Google)—kecil dan dipoles dengan baik
- Phi (Microsoft)—sangat kecil tetapi mumpuni
- DeepSeek—penalaran kuat dengan biaya lebih rendah
- Yi—kemampuan multibahasa yang kuat
Memilih Ukuran
| Ukuran | Kasus penggunaan |
|---|---|
| 1-3B | Perangkat tepi, perangkat seluler, klasifikasi |
| 7-8B | Satu GPU, agen sederhana |
| 13-30B | GPU yang lebih besar atau 2-4 GPU kecil, agen nyata |
| 70B+ | Beberapa GPU, kualitas terdepan |
Tolok Ukur yang Penting
- MMLU—pengetahuan umum
- GSM8K—matematika
- HumanEval—kode
- MT-Bench—kualitas percakapan
- HELM / LMSYS Chatbot Arena—preferensi manusia
Pilih tolok ukur yang selaras dengan tugas YOUR.
Kesenjangan dengan Model Terdepan Menyempit
Model tertutup terdepan (GPT-4o, Claude Sonnet 4.5) masih unggul pada tolok ukur tersulit. Namun, model terbuka 70B menyamai model tertutup kelas menengah pada sebagian besar tugas agen.
Pertimbangan Lisensi
Periksa lisensi setiap model:
- Apache 2.0—sepenuhnya permisif
- Llama Community License—memiliki pembatasan untuk layanan berskala sangat besar dan kasus penggunaan tertentu
- Beberapa lisensi "khusus penelitian"—tidak dapat digunakan secara komersial
Dikelola Penyedia vs Dikelola Sendiri
Anda dapat menggunakan model terbuka melalui API yang dikelola penyedia (Together AI, Anyscale, Groq, Fireworks) tanpa menjalankan infrastruktur—sering kali lebih murah daripada OpenAI untuk kualitas yang sama.
Hosted Open Models on Groq
from openai import OpenAI
client = OpenAI(
base_url='https://api.groq.com/openai/v1',
api_key=GROQ_KEY
)
response = client.chat.completions.create(
model='llama-3.1-70b-versatile',
messages=[{'role': 'user', 'content': 'Hello'}]
)Kapan OSS Unggul
- Privasi sangat penting: medis, hukum, pertahanan
- Volume sangat tinggi: biaya per panggilan sangat berpengaruh
- Penyesuaian intensif: penyetelan halus untuk domain tertentu
- Multibahasa saat penyedia tertutup kurang mumpuni
Kapan Model Tertutup Unggul
- Penalaran terdepan
- Multimodal (visi, suara)
- Konteks panjang: Claude / Gemini masih memimpin
- Pembuatan prototipe cepat
Model Terkecil yang Mumpuni
Untuk agen internal sederhana yang berjalan pada satu GPU, rentang ukuran apa yang biasanya digunakan?
Rangkuman
Llama, Mistral, dan Qwen adalah tiga keluarga utama. Pilih ukuran terkecil yang memenuhi standar kualitas. Penyedia terkelola (Groq, Together) memungkinkan Anda menghindari pengelolaan infrastruktur.
Pertanyaan yang Sering Diajukan
Apakah pelajaran “Ikhtisar Llama, Mistral, dan Qwen” gratis?
Ya — teks lengkap “Ikhtisar Llama, Mistral, dan Qwen” gratis dibaca di sini di web. Untuk praktiknya secara interaktif (editor kode bawaan dan tutor AI 24/7) dan buka sisa kursus AI Agents, upgrade ke CoddyKit PRO. Kursus AI Agents mencakup 4 pelajaran total.
Apa yang akan aku pelajari di “Ikhtisar Llama, Mistral, dan Qwen”?
Tiga keluarga model berbobot terbuka terbesar: lisensi, ukuran, dan keunggulan masing-masing. Kamu berlatih AI Agents dengan kode praktik yang langsung kamu jalankan di browser, dan tutor AI 24/7 menjawab pertanyaanmu saat kamu mengerjakan pelajaran ini.
Apakah aku perlu pengalaman untuk memulai AI Agents?
Tidak diperlukan pengalaman sebelumnya. AI Agents di CoddyKit dirancang untuk pemula hingga pelajar tingkat lanjut, jadi kamu bisa memulai di sini atau dari awal dan belajar sesuai kecepatan kamu sendiri. Ini adalah pelajaran 1 dari 4.
Berapa lama pelajaran “Ikhtisar Llama, Mistral, dan Qwen” memakan waktu?
Sebagian besar pelajaran CoddyKit memakan waktu sekitar 5–10 menit. Setiap pelajaran ringkas dan interaktif, jadi kamu membuat kemajuan stabil dan melanjutkan dari tempat kamu tinggalkan di web dan aplikasi.
Bisakah aku menulis dan menjalankan kode dalam pelajaran AI Agents ini?
Ya. Setiap pelajaran AI Agents menyertakan editor kode bawaan, jadi kamu menulis dan menjalankan kode nyata langsung di browser dan mendapatkan umpan balik AI instan — tidak diperlukan penyiapan lokal.
Semua pelajaran dalam kursus ini
- Ikhtisar Llama, Mistral, dan Qwen
- Menjalankan Model Lokal dengan Ollama dan llama.cpp
- Model Terbuka dengan Pemanggilan Fungsi (Hermes, Functionary)
- Pertukaran: Latensi, Biaya, Kemampuan