Modelos abiertos con llamadas a funciones (Hermes, Functionary)
La mayoría de los modelos abiertos base no realizan bien llamadas a herramientas; Hermes y Functionary están ajustados para ello.
Modelos abiertos con llamadas a funciones (Hermes, Functionary) es una lección gratuita de AI Agents en CoddyKit. Esta es la lección 3 de 4. Puedes leer la lección completa abajo gratuitamente — luego la practicas en el navegador con un editor de código integrado y un tutor de IA 24/7. Forma parte de la ruta de aprendizaje de AI Agents, y tu progreso se sincroniza en la web y la app de CoddyKit. El curso de AI Agents incluye 4 lecciones en total.
Los modelos base no pueden llamar a herramientas de forma fiable
Los modelos base de Llama, Mistral o Qwen sin modificar pueden recibir instrucciones para «devolver JSON como {...}», pero a menudo generan resultados con formato incorrecto, omiten argumentos o alucinan herramientas.
Los fine-tunes especializados en llamadas de funciones resuelven este problema.
Familia Hermes
Los modelos Hermes de NousResearch son fine-tunes de primer nivel para llamadas de funciones:
- Hermes 3 Llama 3.1 8B / 70B
- Gran precisión en las llamadas a herramientas
- Licencia permisiva similar a Apache
Functionary
Los modelos Functionary de MeetKai se han entrenado específicamente para las llamadas de funciones compatibles con OpenAI:
- Functionary v3 (basado en Llama 3.1)
- Admite llamadas paralelas a herramientas
- Disponible en HuggingFace y Together AI
Uso nativo de herramientas en Llama 3.1+
Las variantes instruct recientes de Llama 3.1, Llama 3.3 y Llama 4 incorporan capacidades para llamar a herramientas. Para muchas tareas son suficientes; para casos difíciles, use Hermes / Functionary.
Uso de herramientas en Qwen 2.5
Qwen 2.5 ofrece una sólida capacidad nativa para llamar a herramientas, comparable a la de los modelos cerrados. A menudo es la opción predeterminada para agentes multilingües autoalojados.
Llamar a modelos abiertos compatibles con herramientas
Cualquier servidor compatible con OpenAI (Ollama, vLLM, Together AI) acepta el mismo parámetro tools:
from openai import OpenAI
client = OpenAI(base_url='http://localhost:11434/v1', api_key='ollama')
tools = [{'type': 'function', 'function': {
'name': 'get_weather',
'description': 'Current weather',
'parameters': {'type': 'object', 'properties': {'city': {'type': 'string'}}, 'required': ['city']}
}}]
response = client.chat.completions.create(
model='hermes3:8b',
messages=[{'role': 'user', 'content': 'Weather in Paris?'}],
tools=tools
)Valide cuidadosamente los resultados
Las llamadas a herramientas de los modelos abiertos fallan más a menudo que las de los modelos cerrados. Haga siempre lo siguiente:
- Analice el JSON dentro de try/except
- Valídelo con Pydantic
- Añada un bucle de reparación
Fuerce las llamadas a herramientas con Outlines
Para obtener resultados estructurados garantizados en modelos abiertos, use Outlines para la decodificación restringida por gramática:
import outlines
model = outlines.models.transformers('meta-llama/Llama-3.1-8B-Instruct')
generator = outlines.generate.json(model, ToolCall)
result = generator(prompt)Uso de herramientas con Hugging Face TGI
TGI admite el uso de herramientas al estilo de OpenAI para muchos modelos abiertos; es un reemplazo directo.
Evalúe la calidad del uso de herramientas
Las llamadas a herramientas se evalúan mediante:
- Berkeley Function Calling Leaderboard (BFCL): clasificación de referencia
- ToolBench: cobertura más amplia
- API-Bank: escenarios con varias herramientas
Una pila predeterminada razonable
La combinación por la que optan la mayoría de los equipos:
- Llama 3.1 8B Instruct para el trabajo general con agentes
- Qwen 2.5 Coder para agentes de código
- Hermes 3 para agentes que usan muchas herramientas
- Outlines o Instructor para garantizar resultados estructurados
Ejecutar mediante un proveedor alojado
Sin infraestructura: Together AI, Fireworks y Anyscale alojan Hermes, Functionary, Llama y Qwen con APIs compatibles con OpenAI. Son más baratos que OpenAI con una calidad similar.
Ejemplo de comparación de costes
Coste aproximado por millón de tokens (mediados de 2025):
- GPT-4o: 2,50 $ de entrada, 10 $ de salida
- Llama 3.1 70B (Together AI): 0,88 $ de entrada, 0,88 $ de salida
- Llama 8B autoalojado: 0 $ (su electricidad)
¿Por qué usar fine-tunes para llamadas de funciones?
¿Por qué usar Hermes o Functionary en lugar de Llama base para llamar a herramientas?
Resumen
Las versiones recientes de Llama / Qwen ofrecen un uso nativo de herramientas bastante bueno. Para una mayor fiabilidad, use Hermes o Functionary. Combínelos con Outlines/Instructor para garantizar la estructura.
Preguntas frecuentes
¿La lección «Modelos abiertos con llamadas a funciones (Hermes, Functionary)» es gratis?
Sí — el texto completo de «Modelos abiertos con llamadas a funciones (Hermes, Functionary)» es gratis para leer aquí en la web. Para practicarla de forma interactiva (editor de código integrado y tutor de IA 24/7) y desbloquear el resto del curso de AI Agents, actualiza a CoddyKit PRO. El curso de AI Agents incluye 4 lecciones en total.
¿Qué aprenderé en «Modelos abiertos con llamadas a funciones (Hermes, Functionary)»?
La mayoría de los modelos abiertos base no realizan bien llamadas a herramientas; Hermes y Functionary están ajustados para ello. Practicas AI Agents con código real que ejecutas directamente en el navegador, y un tutor de IA 24/7 responde tus preguntas mientras trabajas en la lección.
¿Necesito experiencia previa para empezar AI Agents?
No se requiere experiencia previa. AI Agents en CoddyKit está estructurado para principiantes hasta estudiantes avanzados, así que puedes empezar aquí o desde el inicio y avanzar a tu ritmo. Esta es la lección 3 de 4.
¿Cuánto tiempo toma la lección «Modelos abiertos con llamadas a funciones (Hermes, Functionary)»?
La mayoría de las lecciones de CoddyKit toman alrededor de 5–10 minutos. Cada una es compacta e interactiva, así que avanzas constantemente y retomas exactamente por donde dejaste en la web y la app.
¿Puedo escribir y ejecutar código en esta lección de AI Agents?
Sí. Cada lección de AI Agents incluye un editor de código integrado, así que escribes y ejecutas código real directamente en tu navegador y obtienes retroalimentación instantánea de IA — sin configuración local necesaria.
Todas las lecciones de este curso
- Introducción a Llama, Mistral y Qwen
- Ejecutar modelos locales con Ollama y llama.cpp
- Modelos abiertos con llamadas a funciones (Hermes, Functionary)
- Compromisos: latencia, coste y capacidad