Nachrichten und Präferenzen gestalten

Neben dem Prompt können Sie den Aufruf beeinflussen: durch einen system prompt, Modellhinweise, die Länge und den Umfang des einzubeziehenden bisherigen Kontexts.

Verwenden Sie systemPrompt, um für diesen Aufruf die Rolle oder den Ton des Modells festzulegen, etwa indem Sie es anweisen, als prägnanter Code-Reviewer zu agieren.

Das Array messages kann mehrere Gesprächswechsel enthalten. So geben Sie dem Modell einen kurzen Dialog als Kontext statt nur einer einzelnen Zeile.

modelPreferences nimmt Hinweise entgegen – etwa Teilzeichenfolgen wie claude-3-sonnet –, die der Client einem verfügbaren Modell zuordnen kann.

Der Client trifft die endgültige Auswahl. Ein hint ist lediglich ein Vorschlag; der Host kann ihn einem gleichwertigen Modell eines anderen Anbieters zuordnen.

Listen Sie die Hinweise in der Reihenfolge Ihrer Präferenz auf. Ein allgemeiner Fallback wie ein einfacher claude-Hinweis findet jedes Claude-Modell, falls Ihre erste Wahl nicht verfügbar ist.

Setzen Sie intelligencePriority auf einen Wert zwischen 0 und 1. Höhere Werte lenken den Client bei anspruchsvollen Aufgaben zu leistungsfähigeren und intelligenteren Modellen.

Sie benötigen eine geringe Latenz? Erhöhen Sie speedPriority in Richtung 1. Dann bevorzugt der Client schnellere Modelle und nimmt für die kürzere Antwortzeit etwas weniger Tiefe in Kauf.

Erhöhen Sie costPriority, um günstigere Modelle zu bevorzugen. Diese drei Prioritäten sind normalisierte Hinweise und keine festen Regeln.

Mit der Einstellung includeContext kann die Anfrage Kontext von MCP-Servern einbeziehen, sodass das Modell mehr als nur Ihren Text sieht.

Sofern unterstützt, verschiebt ein Wert für temperature die Antworten von fokussiert und deterministisch hin zu abwechslungsreicher und kreativer.

Eine Frage zur Steuerung der Modellauswahl.

Gestalten Sie Aufrufe mit einem systemPrompt, aufeinander aufbauenden Nachrichten und modelPreferences – also Hinweisen sowie Prioritäten für Kosten, Geschwindigkeit und Intelligenz. 🎛️