Open modellen met function calling (Hermes, Functionary)
De meeste open basismodellen kunnen tools niet goed aanroepen — Hermes en Functionary zijn hiervoor gefinetuned.
Open modellen met function calling (Hermes, Functionary) is een gratis AI-agenten-les op CoddyKit. Dit is les 3 van 4. Je kunt de volledige les hieronder gratis lezen en daarna in de browser praktisch oefenen met een ingebouwde code-editor en een AI-begeleider die 24/7 beschikbaar is. Deze les maakt deel uit van het leertraject AI-agenten. Je voortgang wordt gesynchroniseerd op het web en in de CoddyKit-app. De cursus AI-agenten bevat in totaal 4 lessen.
Basismodellen kunnen niet betrouwbaar tools aanroepen
Onbewerkte Llama-, Mistral- of Qwen-basismodellen kunnen worden geïnstrueerd om "JSON zoals {...}" terug te geven, maar produceren vaak een ongeldige uitvoer, missen argumenten of verzinnen tools.
Finetuning voor functieaanroepen lost dit op.
Hermes-familie
De Hermes-modellen van NousResearch behoren tot de beste finetunings voor functieaanroepen:
- Hermes 3 Llama 3.1 8B / 70B
- Hoge nauwkeurigheid bij toolaanroepen
- Ruimhartige licentie in Apache-stijl
Functionary
De modellen van MeetKai Functionary zijn specifiek getraind voor functieaanroepen die compatibel zijn met OpenAI:
- Functionary v3 (gebaseerd op Llama 3.1)
- Ondersteunt parallelle toolaanroepen
- Beschikbaar op HuggingFace en Together AI
Native toolgebruik in Llama 3.1+
Recente instructievarianten van Llama 3.1, Llama 3.3 en Llama 4 hebben ingebouwde mogelijkheden voor toolaanroepen. Voor veel taken zijn ze voldoende; gebruik voor moeilijke gevallen Hermes / Functionary.
Toolgebruik in Qwen 2.5
Qwen 2.5 heeft sterke ingebouwde mogelijkheden voor toolaanroepen en kan concurreren met gesloten modellen. Het is vaak de standaardkeuze voor meertalige agents die je zelf host.
Tools aanroepen met open modellen
Elke OpenAI-compatibele server (Ollama, vLLM, Together AI) accepteert dezelfde tools-parameter:
from openai import OpenAI
client = OpenAI(base_url='http://localhost:11434/v1', api_key='ollama')
tools = [{'type': 'function', 'function': {
'name': 'get_weather',
'description': 'Current weather',
'parameters': {'type': 'object', 'properties': {'city': {'type': 'string'}}, 'required': ['city']}
}}]
response = client.chat.completions.create(
model='hermes3:8b',
messages=[{'role': 'user', 'content': 'Weather in Paris?'}],
tools=tools
)Uitvoer zorgvuldig valideren
Open modellen maken vaker fouten bij toolaanroepen dan gesloten modellen. Doe altijd het volgende:
- Parseer JSON in try/except
- Valideer met Pydantic
- Voeg een herstel-lus toe
Toolaanroepen afdwingen met Outlines
Gebruik Outlines voor decodering met grammaticabeperkingen als je gestructureerde uitvoer bij open modellen wilt garanderen:
import outlines
model = outlines.models.transformers('meta-llama/Llama-3.1-8B-Instruct')
generator = outlines.generate.json(model, ToolCall)
result = generator(prompt)Toolgebruik met Hugging Face TGI
TGI ondersteunt voor veel open modellen toolgebruik in OpenAI-stijl — een directe vervanging.
Kwaliteit van toolgebruik vergelijken
Toolaanroepen worden beoordeeld met:
- Berkeley Function Calling Leaderboard (BFCL) — gezaghebbende ranglijst
- ToolBench — bredere dekking
- API-Bank — scenario's met meerdere tools
Een redelijke standaardstack
De combinatie waar de meeste teams op uitkomen:
- Llama 3.1 8B Instruct voor algemeen agentwerk
- Qwen 2.5 Coder voor codeagenten
- Hermes 3 voor agenten die veel tools gebruiken
- Outlines of Instructor voor garanties op gestructureerde uitvoer
Uitvoeren via een gehoste aanbieder
Zonder infrastructuur: Together AI, Fireworks en Anyscale hosten Hermes, Functionary, Llama en Qwen met OpenAI-compatibele API's. Goedkoper dan OpenAI bij vergelijkbare kwaliteit.
Voorbeeld van een kostenvergelijking
Geschatte kosten per miljoen tokens (medio 2025):
- GPT-4o: $2.50 invoer, $10 uitvoer
- Llama 3.1 70B (Together AI): $0.88 invoer, $0.88 uitvoer
- Zelf gehoste Llama 8B: $0 (alleen je elektriciteit)
Waarom finetunings voor functieaanroepen gebruiken?
Waarom zou je Hermes of Functionary gebruiken in plaats van Llama als basismodel voor het aanroepen van tools?
Samenvatting
Recente Llama- en Qwen-modellen hebben behoorlijk goed ingebouwd toolgebruik. Gebruik Hermes of Functionary voor hogere betrouwbaarheid. Combineer ze met Outlines/Instructor voor gegarandeerde structuur.
Leer AI-agenten met een AI-tutor — gratis
Schrijf echte code en voer die uit in je browser, krijg direct hulp van een AI-tutor die 24/7 beschikbaar is en ga verder waar je gebleven bent op het web of in de app.
- Cursussen
- 60
- Lessen
- 239
Veelgestelde vragen
Is de les “Open modellen met function calling (Hermes, Functionary)” gratis?
Ja — de volledige tekst van “Open modellen met function calling (Hermes, Functionary)” kun je hier gratis op het web lezen. Als je interactief wilt oefenen met een ingebouwde code-editor en een AI-begeleider die 24/7 beschikbaar is, en de rest van de cursus AI-agenten wilt ontgrendelen, kun je upgraden naar CoddyKit PRO. De cursus AI-agenten bevat in totaal 4 lessen.
Wat leer ik in “Open modellen met function calling (Hermes, Functionary)”?
De meeste open basismodellen kunnen tools niet goed aanroepen — Hermes en Functionary zijn hiervoor gefinetuned. Je oefent met AI-agenten door code rechtstreeks in de browser uit te voeren. Een AI-begeleider die 24/7 beschikbaar is beantwoordt je vragen terwijl je de les doorwerkt.
Heb ik ervaring nodig om met AI-agenten te beginnen?
Ervaring vooraf is niet nodig. AI-agenten op CoddyKit is opgebouwd voor beginners tot gevorderden, zodat je hier of bij het begin kunt starten en in je eigen tempo kunt leren. Dit is les 3 van 4.
Hoe lang duurt de les “Open modellen met function calling (Hermes, Functionary)”?
De meeste lessen van CoddyKit duren ongeveer 5–10 minuten. Elke les is kort en interactief, zodat je gestaag vooruitgaat en op het web en in de app precies verdergaat waar je was gebleven.
Kan ik code schrijven en uitvoeren in deze les over AI-agenten?
Ja. Elke les over AI-agenten bevat een ingebouwde code-editor, zodat je rechtstreeks in je browser echte code kunt schrijven en uitvoeren en direct feedback van AI krijgt — lokale installatie is niet nodig.
Alle lessen in deze cursus
- Overzicht van Llama, Mistral en Qwen
- Lokale modellen draaien met Ollama en llama.cpp
- Open modellen met function calling (Hermes, Functionary)
- Afwegingen: latentie, kosten, mogelijkheden