Strutturare messaggi e preferenze

Oltre al prompt, può definire la chiamata: un system prompt, suggerimenti sul modello, lunghezza e quantità di contesto precedente da includere.

Usi systemPrompt per impostare il ruolo o il tono del modello per questa singola chiamata, ad esempio chiedendogli di essere un revisore del codice conciso.

L'array messages può contenere diversi turni, permettendole di fornire al modello un breve scambio come contesto, anziché una sola riga.

modelPreferences accetta degli hint, ovvero sottostringhe come claude-3-sonnet, che il client può associare a un modello disponibile.

La scelta finale spetta al client. Un hint è un suggerimento; l'host può associarlo a un modello equivalente di un altro provider.

Elenchi gli hint in ordine di preferenza. Un fallback ampio, come un semplice hint claude, individua qualsiasi modello Claude se la prima scelta non è disponibile.

Imposti intelligencePriority da 0 a 1. Valori più alti indirizzano il client verso modelli più capaci e intelligenti per le attività complesse.

Ha bisogno di una latenza ridotta? Aumenti speedPriority verso 1: il client privilegerà modelli più veloci, sacrificando parte della profondità a favore della rapidità.

Aumenti costPriority per preferire modelli meno costosi. Queste tre priorità sono hint normalizzati, non regole vincolanti.

Un'impostazione includeContext consente alla richiesta di recuperare il contesto dai server MCP, così il modello vede più del semplice testo.

Se supportato, un valore di temperature sposta le risposte da concentrate e deterministiche a più varie e creative.

Una domanda su come guidare la scelta del modello.

Definisca le chiamate con un systemPrompt, messaggi stratificati e modelPreferences: hint e priorità per costi, velocità e intelligenza. 🎛️