Modelos abertos com chamada de funções (Hermes, Functionary)
A maioria dos modelos abertos básicos não consegue chamar ferramentas bem — Hermes e Functionary são ajustados especificamente para isso.
Modelos abertos com chamada de funções (Hermes, Functionary) é uma aula grátis de AI Agents no CoddyKit. Esta é a aula 3 de 4. Você pode ler a aula completa abaixo gratuitamente — depois pratica ao vivo no navegador com um editor de código integrado e um tutor de IA 24/7. Faz parte do caminho de aprendizado de AI Agents, e seu progresso é sincronizado entre a web e o app CoddyKit. O curso de AI Agents inclui 4 aulas no total.
Modelos Base Não Fazem Chamadas de Ferramentas com Confiabilidade
Modelos base puros de Llama, Mistral ou Qwen podem receber a instrução de "retornar JSON como {...}", mas frequentemente produzem uma saída malformada, omitem argumentos ou inventam ferramentas.
Ajustes finos para chamadas de funções resolvem esse problema.
Família Hermes
Os modelos Hermes da NousResearch estão entre os melhores ajustes finos para chamadas de funções:
- Hermes 3 Llama 3.1 8B / 70B
- Alta precisão nas chamadas de ferramentas
- Licença permissiva no estilo Apache
Functionary
Os modelos Functionary da MeetKai são treinados especificamente para chamadas de funções compatíveis com OpenAI:
- Functionary v3 (baseado em Llama 3.1)
- Oferece suporte a chamadas de ferramentas paralelas
- Disponível no HuggingFace e na Together AI
Uso Nativo de Ferramentas no Llama 3.1+
As variantes recentes do Llama 3.1, Llama 3.3 e Llama 4 Instruct têm recursos integrados de chamadas de ferramentas. Para muitas tarefas, elas são suficientes; em casos difíceis, use Hermes / Functionary.
Uso de Ferramentas no Qwen 2.5
Qwen 2.5 oferece chamadas de ferramentas nativas fortes — competitivas com modelos fechados. Muitas vezes, é a escolha padrão para agentes multilíngues auto-hospedados.
Chamando Modelos Abertos Capazes de Usar Ferramentas
Qualquer servidor compatível com OpenAI (Ollama, vLLM, Together AI) aceita o mesmo parâmetro tools:
from openai import OpenAI
client = OpenAI(base_url='http://localhost:11434/v1', api_key='ollama')
tools = [{'type': 'function', 'function': {
'name': 'get_weather',
'description': 'Current weather',
'parameters': {'type': 'object', 'properties': {'city': {'type': 'string'}}, 'required': ['city']}
}}]
response = client.chat.completions.create(
model='hermes3:8b',
messages=[{'role': 'user', 'content': 'Weather in Paris?'}],
tools=tools
)Valide as Saídas com Cuidado
As chamadas de ferramentas em modelos abertos falham com mais frequência do que nos modelos fechados. Sempre:
- Analise o JSON em um bloco try/except
- Valide com Pydantic
- Adicione um ciclo de correção
Force Chamadas de Ferramentas com Outlines
Para obter uma saída estruturada garantida em modelos abertos, use Outlines para uma decodificação restrita por gramática:
import outlines
model = outlines.models.transformers('meta-llama/Llama-3.1-8B-Instruct')
generator = outlines.generate.json(model, ToolCall)
result = generator(prompt)Uso de Ferramentas no Hugging Face TGI
TGI oferece suporte ao uso de ferramentas no estilo da OpenAI para muitos modelos abertos — é um substituto direto.
Avalie a Qualidade do Uso de Ferramentas
As chamadas de ferramentas são avaliadas por meio de:
- Berkeley Function Calling Leaderboard (BFCL) — classificação definitiva
- ToolBench — cobertura mais ampla
- API-Bank — cenários com várias ferramentas
Uma Pilha Padrão Razoável
Combinação que a maioria das equipes acaba adotando:
- Llama 3.1 8B Instruct para trabalho geral com agentes
- Qwen 2.5 Coder para agentes de código
- Hermes 3 para agentes que usam muitas ferramentas
- Outlines ou Instructor para garantir saídas estruturadas
Execute por meio de um Provedor Hospedado
Para não ter nenhuma infraestrutura: Together AI, Fireworks e Anyscale hospedam Hermes, Functionary, Llama e Qwen com APIs compatíveis com OpenAI. Mais baratos que a OpenAI para qualidade semelhante.
Exemplo de Comparação de Custos
Custo aproximado por milhão de tokens (meados de 2025):
- GPT-4o: $2.50 de entrada, $10 de saída
- Llama 3.1 70B (Together AI): $0.88 de entrada, $0.88 de saída
- Llama 8B auto-hospedado: $0 (sua eletricidade)
Por que Usar Ajustes Finos para Chamadas de Funções?
Por que usar Hermes ou Functionary em vez do Llama base para chamadas de ferramentas?
Recapitulação
As versões recentes de Llama / Qwen têm um uso nativo de ferramentas razoável. Para obter maior confiabilidade, use Hermes ou Functionary. Combine-os com Outlines/Instructor para garantir a estrutura.
Perguntas Frequentes
A aula “Modelos abertos com chamada de funções (Hermes, Functionary)” é grátis?
Sim — o texto completo de “Modelos abertos com chamada de funções (Hermes, Functionary)” é grátis para ler aqui na web. Para praticá-la interativamente (um editor de código integrado e um tutor de IA 24/7) e desbloquear o restante do curso de AI Agents, atualize para CoddyKit PRO. O curso de AI Agents inclui 4 aulas no total.
O que vou aprender em “Modelos abertos com chamada de funções (Hermes, Functionary)”?
A maioria dos modelos abertos básicos não consegue chamar ferramentas bem — Hermes e Functionary são ajustados especificamente para isso. Você pratica AI Agents com código prático que executa diretamente no navegador, e um tutor de IA 24/7 responde suas dúvidas enquanto trabalha na aula.
Preciso ter experiência prévia para começar AI Agents?
Nenhuma experiência prévia é necessária. AI Agents no CoddyKit é estruturado para alunos iniciantes até avançados, então você pode começar aqui ou desde o início e aprender no seu ritmo. Esta é a aula 3 de 4.
Quanto tempo leva a aula “Modelos abertos com chamada de funções (Hermes, Functionary)”?
A maioria das aulas CoddyKit leva cerca de 5–10 minutos. Cada uma é compacta e interativa, então você faz progresso constante e retoma exatamente de onde parou entre web e app.
Posso escrever e executar código nesta aula de AI Agents?
Sim. Cada aula de AI Agents inclui um editor de código integrado, então você escreve e executa código real direto no navegador e recebe feedback de IA instantaneamente — nenhuma configuração local necessária.
Todas as aulas deste curso
- Visão geral de Llama, Mistral e Qwen
- Executando modelos locais com Ollama e llama.cpp
- Modelos abertos com chamada de funções (Hermes, Functionary)
- Compromissos: latência, custo e capacidade