Model Terbuka dengan Pemanggilan Fungsi (Hermes, Functionary)
Sebagian besar model terbuka dasar tidak dapat memanggil alat dengan baik—Hermes dan Functionary disetel khusus untuk itu.
Model Terbuka dengan Pemanggilan Fungsi (Hermes, Functionary) adalah pelajaran AI Agents gratis di CoddyKit. Ini adalah pelajaran 3 dari 4. Kamu bisa membaca pelajaran lengkapnya di bawah secara gratis — lalu praktikkan langsung di browser dengan editor kode bawaan dan tutor AI 24/7. Ini adalah bagian dari jalur belajar AI Agents, dan progresmu tersinkronisasi di web dan aplikasi CoddyKit. Kursus AI Agents mencakup 4 pelajaran total.
Model Dasar Tidak Dapat Memanggil Alat Secara Andal
Model dasar Llama, Mistral, atau Qwen biasa dapat diarahkan untuk "mengembalikan JSON seperti {...}", tetapi sering menghasilkan keluaran yang tidak valid, melewatkan argumen, atau mengada-adakan alat.
Penyetelan halus pemanggilan fungsi mengatasi masalah ini.
Keluarga Hermes
Model Hermes dari NousResearch adalah penyetelan halus pemanggilan fungsi kelas atas:
- Hermes 3 Llama 3.1 8B / 70B
- Akurasi pemanggilan alat yang kuat
- Lisensi permisif bergaya Apache
Functionary
Model Functionary dari MeetKai secara khusus dilatih untuk pemanggilan fungsi yang kompatibel dengan OpenAI:
- Functionary v3 (berbasis Llama 3.1)
- Mendukung pemanggilan alat secara paralel
- Tersedia di HuggingFace dan Together AI
Penggunaan Alat Bawaan Llama 3.1+
Varian instruct terbaru Llama 3.1, Llama 3.3, dan Llama 4 memiliki kemampuan pemanggilan alat bawaan. Untuk banyak tugas, kemampuan ini sudah memadai; untuk kasus sulit, gunakan Hermes / Functionary.
Penggunaan Alat Qwen 2.5
Qwen 2.5 memiliki kemampuan pemanggilan alat bawaan yang kuat—mampu bersaing dengan model tertutup. Sering kali menjadi pilihan default untuk agen multibahasa yang dijalankan sendiri.
Memanggil Model Terbuka yang Mampu Menggunakan Alat
Peladen apa pun yang kompatibel dengan OpenAI (Ollama, vLLM, Together AI) menerima parameter tools yang sama:
from openai import OpenAI
client = OpenAI(base_url='http://localhost:11434/v1', api_key='ollama')
tools = [{'type': 'function', 'function': {
'name': 'get_weather',
'description': 'Current weather',
'parameters': {'type': 'object', 'properties': {'city': {'type': 'string'}}, 'required': ['city']}
}}]
response = client.chat.completions.create(
model='hermes3:8b',
messages=[{'role': 'user', 'content': 'Weather in Paris?'}],
tools=tools
)Validasi Keluaran dengan Cermat
Pemanggilan alat pada model terbuka lebih sering gagal daripada pada model tertutup. Selalu lakukan hal berikut:
- Uraikan JSON dalam try/except
- Validasi dengan Pydantic
- Tambahkan putaran perbaikan
Paksa Pemanggilan Alat dengan Outlines
Untuk keluaran terstruktur yang terjamin pada model terbuka, gunakan Outlines untuk dekode yang dibatasi tata bahasa:
import outlines
model = outlines.models.transformers('meta-llama/Llama-3.1-8B-Instruct')
generator = outlines.generate.json(model, ToolCall)
result = generator(prompt)Penggunaan Alat TGI Hugging Face
TGI mendukung penggunaan alat bergaya OpenAI untuk banyak model terbuka—pengganti langsung.
Ukur Kualitas Penggunaan Alat
Pemanggilan alat diukur melalui tolok ukur berikut:
- Berkeley Function Calling Leaderboard (BFCL)—peringkat definitif
- ToolBench—cakupan yang lebih luas
- API-Bank—skenario dengan banyak alat
Tumpukan Default yang Wajar
Kombinasi yang menjadi pilihan sebagian besar tim:
- Llama 3.1 8B Instruct untuk pekerjaan agen umum
- Qwen 2.5 Coder untuk agen kode
- Hermes 3 untuk agen yang banyak menggunakan alat
- Outlines atau Instructor untuk jaminan keluaran terstruktur
Jalankan melalui Penyedia Terkelola
Tanpa infrastruktur: Together AI, Fireworks, dan Anyscale menyediakan hosting untuk Hermes, Functionary, Llama, dan Qwen dengan API yang kompatibel dengan OpenAI. Lebih murah daripada OpenAI untuk kualitas yang serupa.
Contoh Perbandingan Biaya
Perkiraan biaya per juta token (pertengahan 2025):
- GPT-4o: $2.50 masuk, $10 keluar
- Llama 3.1 70B (Together AI): $0.88 masuk, $0.88 keluar
- Llama 8B yang dijalankan sendiri: $0 (listrik Anda)
Mengapa Menggunakan Penyetelan Halus Pemanggilan Fungsi?
Mengapa menggunakan Hermes atau Functionary alih-alih Llama dasar untuk pemanggilan alat?
Rangkuman
Llama / Qwen terbaru memiliki penggunaan alat bawaan yang cukup baik. Untuk keandalan yang lebih tinggi, gunakan Hermes atau Functionary. Gabungkan dengan Outlines/Instructor untuk struktur yang terjamin.
Pertanyaan yang Sering Diajukan
Apakah pelajaran “Model Terbuka dengan Pemanggilan Fungsi (Hermes, Functionary)” gratis?
Ya — teks lengkap “Model Terbuka dengan Pemanggilan Fungsi (Hermes, Functionary)” gratis dibaca di sini di web. Untuk praktiknya secara interaktif (editor kode bawaan dan tutor AI 24/7) dan buka sisa kursus AI Agents, upgrade ke CoddyKit PRO. Kursus AI Agents mencakup 4 pelajaran total.
Apa yang akan aku pelajari di “Model Terbuka dengan Pemanggilan Fungsi (Hermes, Functionary)”?
Sebagian besar model terbuka dasar tidak dapat memanggil alat dengan baik—Hermes dan Functionary disetel khusus untuk itu. Kamu berlatih AI Agents dengan kode praktik yang langsung kamu jalankan di browser, dan tutor AI 24/7 menjawab pertanyaanmu saat kamu mengerjakan pelajaran ini.
Apakah aku perlu pengalaman untuk memulai AI Agents?
Tidak diperlukan pengalaman sebelumnya. AI Agents di CoddyKit dirancang untuk pemula hingga pelajar tingkat lanjut, jadi kamu bisa memulai di sini atau dari awal dan belajar sesuai kecepatan kamu sendiri. Ini adalah pelajaran 3 dari 4.
Berapa lama pelajaran “Model Terbuka dengan Pemanggilan Fungsi (Hermes, Functionary)” memakan waktu?
Sebagian besar pelajaran CoddyKit memakan waktu sekitar 5–10 menit. Setiap pelajaran ringkas dan interaktif, jadi kamu membuat kemajuan stabil dan melanjutkan dari tempat kamu tinggalkan di web dan aplikasi.
Bisakah aku menulis dan menjalankan kode dalam pelajaran AI Agents ini?
Ya. Setiap pelajaran AI Agents menyertakan editor kode bawaan, jadi kamu menulis dan menjalankan kode nyata langsung di browser dan mendapatkan umpan balik AI instan — tidak diperlukan penyiapan lokal.
Semua pelajaran dalam kursus ini
- Ikhtisar Llama, Mistral, dan Qwen
- Menjalankan Model Lokal dengan Ollama dan llama.cpp
- Model Terbuka dengan Pemanggilan Fungsi (Hermes, Functionary)
- Pertukaran: Latensi, Biaya, Kemampuan