Açık Modellerde İşlev Çağırma (Hermes, Functionary)
Temel açık modellerin çoğu araç çağırmayı iyi gerçekleştiremez; Hermes ve Functionary bunun için ince ayar yapılmış modellerdir.
Açık Modellerde İşlev Çağırma (Hermes, Functionary), CoddyKit'te ücretsiz bir AI Agents dersidir. Bu, 4 dersinin 3. dersidir. Aşağıdan dersin tamamını ücretsiz okuyabilir, sonra tarayıcıda yerleşik kod editörü ve 7/24 yapay zeka koçu ile uygulamalı olarak pratik yapabilirsin. Bu, AI Agents öğrenme yolunun bir parçasıdır ve ilerlemeniz web ve CoddyKit uygulaması arasında senkronize olur. AI Agents kursu toplamda 4 dersten oluşur.
Temel Modeller Araçları Güvenilir Biçimde Çağıramaz
Saf Llama, Mistral veya Qwen temel modellerine "{...} gibi JSON döndür" yönergesi verilebilir; ancak bu modeller çoğu zaman hatalı biçimlendirilmiş çıktı üretir, bağımsız değişkenleri atlar veya araçlar uydurur.
İşlev çağırma için yapılan ince ayarlar bu sorunu çözer.
Hermes Ailesi
NousResearch Hermes modelleri, işlev çağırma için yapılan en iyi ince ayarlardan bazılarıdır:
- Hermes 3 Llama 3.1 8B / 70B
- Güçlü araç çağrısı doğruluğu
- Apache tarzı izin verici lisans
Functionary
MeetKai Functionary modelleri, OpenAI uyumlu işlev çağırma için açıkça eğitilmiştir:
- Functionary v3 (Llama 3.1 tabanlı)
- Paralel araç çağrılarını destekler
- HuggingFace ve Together AI üzerinde kullanılabilir
Llama 3.1+ Yerel Araç Kullanımı
Güncel Llama 3.1, Llama 3.3 ve Llama 4 instruct sürümlerinde yerleşik araç çağırma yetenekleri bulunur. Birçok görev için bunlar yeterlidir; zor durumlarda Hermes / Functionary kullanın.
Qwen 2.5 Araç Kullanımı
Qwen 2.5, kapalı modellerle rekabet edebilen güçlü yerel araç çağırma özelliğine sahiptir. Kendi sunucunuzda barındırılan çok dilli ajanlar için çoğu zaman varsayılan seçimdir.
Araç Kullanabilen Açık Modelleri Çağırma
Herhangi bir OpenAI uyumlu sunucu (Ollama, vLLM, Together AI) aynı tools parametresini kabul eder:
from openai import OpenAI
client = OpenAI(base_url='http://localhost:11434/v1', api_key='ollama')
tools = [{'type': 'function', 'function': {
'name': 'get_weather',
'description': 'Current weather',
'parameters': {'type': 'object', 'properties': {'city': {'type': 'string'}}, 'required': ['city']}
}}]
response = client.chat.completions.create(
model='hermes3:8b',
messages=[{'role': 'user', 'content': 'Weather in Paris?'}],
tools=tools
)Çıktıları Dikkatle Doğrulayın
Açık model araç çağrıları, kapalı model çağrılarından daha sık başarısız olur. Her zaman:
- JSON'ı try/except içinde ayrıştırın
- Pydantic ile doğrulayın
- Bir onarım döngüsü ekleyin
Outlines ile Araç Çağrılarını Zorunlu Kılma
Açık modellerde garantili yapılandırılmış çıktı için, dil bilgisi kısıtlamalı kod çözme amacıyla Outlines kullanın:
import outlines
model = outlines.models.transformers('meta-llama/Llama-3.1-8B-Instruct')
generator = outlines.generate.json(model, ToolCall)
result = generator(prompt)Hugging Face TGI ile Araç Kullanımı
TGI, birçok açık model için OpenAI tarzı araç kullanımını destekler; doğrudan kullanılabilen bir ikamedir.
Araç Kullanımı Kalitesini Kıyaslama
Araç çağırma şu kıyaslamalarla değerlendirilir:
- Berkeley Function Calling Leaderboard (BFCL) — kesin sıralama
- ToolBench — daha geniş kapsam
- API-Bank — birden fazla araç içeren senaryolar
Uygun Bir Varsayılan Teknoloji Yığını
Çoğu ekibin karar kıldığı birleşim:
- Genel ajan işleri için Llama 3.1 8B Instruct
- Kod ajanları için Qwen 2.5 Coder
- Yoğun araç kullanımı gerektiren ajanlar için Hermes 3
- Yapılandırılmış çıktı garantileri için Outlines veya Instructor
Barındırılan Sağlayıcı Üzerinden Çalıştırma
Altyapı gerektirmeyen kullanım için Together AI, Fireworks ve Anyscale; Hermes, Functionary, Llama ve Qwen'i OpenAI uyumlu API'lerle barındırır. Benzer kalite için OpenAI'den daha ucuzdur.
Maliyet Karşılaştırması Örneği
Milyon belirteç başına yaklaşık maliyet (2025 ortası):
- GPT-4o: girdi $2.50, çıktı $10
- Llama 3.1 70B (Together AI): girdi $0.88, çıktı $0.88
- Kendi sunucunuzda barındırılan Llama 8B: $0 (elektrik maliyetiniz)
İşlev Çağırma İçin İnce Ayarlanmış Modeller Neden Kullanılır?
Araç çağırmak için temel Llama yerine neden Hermes veya Functionary kullanmalısınız?
Özet
Güncel Llama / Qwen modellerinde yeterli düzeyde yerel araç kullanımı vardır. Daha yüksek güvenilirlik için Hermes veya Functionary kullanın. Garantili yapı için bunları Outlines/Instructor ile birleştirin.
Yapay zeka eğitmeniyle AI Agents öğren — ücretsiz
Tarayıcında gerçek kod yaz ve çalıştır, 7/24 yapay zeka eğitmeninden anında yardım al; web'de ya da uygulamada kaldığın yerden devam et.
- Kurslar
- 60
- Dersler
- 239
Sıkça Sorulan Sorular
“Açık Modellerde İşlev Çağırma (Hermes, Functionary)” dersi ücretsiz mi?
Evet — “Açık Modellerde İşlev Çağırma (Hermes, Functionary)” dersin tüm metni burada web'de ücretsiz olarak okunabilir. Etkileşimli olarak pratik yapmak (yerleşik kod editörü ve 7/24 yapay zeka koçu) ve AI Agents kursunun geri kalanını açmak için CoddyKit PRO'ya yükselt. AI Agents kursu toplamda 4 dersten oluşur.
“Açık Modellerde İşlev Çağırma (Hermes, Functionary)” dersinde ne öğreneceğim?
Temel açık modellerin çoğu araç çağırmayı iyi gerçekleştiremez; Hermes ve Functionary bunun için ince ayar yapılmış modellerdir. AI Agents ile uygulamalı kodu tarayıcıda doğrudan çalıştırarak pratik yaparsın ve 7/24 yapay zeka koçu dersi çalışırken sorularını yanıtlar.
AI Agents öğrenmeye başlamak için deneyim gerekli mi?
Önceden deneyim gerekmez. CoddyKit'te AI Agents, başlangıçtan ileri seviyeye kadar yapılandırıldığı için buradan başlayabilir veya başından başlayıp kendi hızında ilerleme yapabilirsin. Bu, 4 dersinin 3. dersidir.
“Açık Modellerde İşlev Çağırma (Hermes, Functionary)” dersi ne kadar sürer?
Çoğu CoddyKit dersi yaklaşık 5–10 dakika sürer. Her biri kısa ve etkileşimli olduğu için sabit ilerleme yaparsın ve web ile uygulama arasında tam olarak bıraktığın yerden devam edebilirsin.
Bu AI Agents dersinde kod yazıp çalıştırabilir miyim?
Evet. Her AI Agents dersi yerleşik bir kod editörü içerir, bu sayede tarayıcıda gerçek kod yazıp çalıştırabilir ve anlık yapay zeka geri bildirimi alırsın — yerel kurulum gerekli değildir.
Bu kursun tüm dersleri
- Llama, Mistral ve Qwen'e Genel Bakış
- Ollama ve llama.cpp ile Yerel Modelleri Çalıştırma
- Açık Modellerde İşlev Çağırma (Hermes, Functionary)
- Ödünleşimler: Gecikme, Maliyet, Yetenek