Prompts versionieren und Ausgaben bewerten
Verfolgen Sie Prompt-Änderungen und bewerten Sie Antworten.
Prompts versionieren und Ausgaben bewerten ist eine kostenlose MLOps Academy-Lektion auf CoddyKit. Dies ist Lektion 2 von 4. Du kannst die komplette Lektion unten kostenlos lesen – dann übst du sie direkt im Browser mit einem integrierten Code-Editor und einem KI-Tutor rund um die Uhr. Sie ist Teil des MLOps Academy-Lernpfads, und dein Fortschritt wird über Web und CoddyKit-App synchronisiert. Der MLOps Academy-Kurs umfasst insgesamt 4 Lektionen.
Teile dieser Lektion wurden noch nicht übersetzt und werden auf Englisch angezeigt.
Prompts Are Code
A reworded prompt can change behavior overnight. So you treat each prompt as a versioned artifact, with history, review, and the ability to roll back. 📝
Store Prompts, Not Strings
Hard-coded strings scattered in code are impossible to track. Keep prompts in a registry or files so every change is visible and diffable.
prompts/summarize_ticket.v2.txt
prompts/summarize_ticket.v3.txtTag Each Version
Give every prompt a clear version id you can pin in code. Then you always know exactly which wording produced a given output.
PROMPT_VERSION = "summarize-v3"
template = load_prompt(PROMPT_VERSION)Build an Eval Dataset
Collect real inputs with the answers you want. This eval set is your yardstick for judging whether a prompt change actually helped.
cases = [
{"input": "ticket text...", "expected": "Refund requested"},
]Score Against References
For tasks with a known answer, compare output to the expected text. A simple metric like exact match or F1 gives you a fast pass-fail signal.
Use an LLM as Judge
For open-ended text, ask another model to grade the answer against a rubric. This LLM-as-judge pattern scales scoring beyond hand-written rules.
judge_prompt = "Rate 1-5 how well the summary captures the ticket:\n{output}"Watch the Judge Itself
Judges can be biased or inconsistent. You keep them honest by spot-checking scores against a few human ratings on the same cases.
Run Evals on Every Change
Before shipping a new prompt, run it across the whole eval set. You only promote it if the score holds or improves, never on a hunch.
old = run_eval("summarize-v2")
new = run_eval("summarize-v3")
assert new.score >= old.scoreTrack Regressions
A prompt that fixes one case can break another. Comparing per-case results catches these regressions before users ever see them.
Frameworks Help
Tools like promptfoo or OpenAI Evals run datasets, call models, and report scores for you. A framework turns ad-hoc testing into a repeatable suite.
Pin the Winner
Once a version wins on your evals, pin it in production and archive the rest. You now have a clear, auditable trail from prompt to result.
Quick Check
You need to score open-ended summaries with no single correct answer. What fits best?
Recap
You learned to version prompts, build an eval set, score with metrics or an LLM judge, and gate releases on results. No more guessing! 🎉
Häufig gestellte Fragen
Ist die Lektion „Prompts versionieren und Ausgaben bewerten“ kostenlos?
Ja — der vollständige Text von „Prompts versionieren und Ausgaben bewerten“ ist hier im Web kostenlos zu lesen. Um sie interaktiv zu üben (integrierter Code-Editor und 24/7 KI-Tutor) und den Rest des MLOps Academy-Kurses freizuschalten, upgrade auf CoddyKit PRO. Der MLOps Academy-Kurs umfasst insgesamt 4 Lektionen.
Was lerne ich in „Prompts versionieren und Ausgaben bewerten“?
Verfolgen Sie Prompt-Änderungen und bewerten Sie Antworten. Du übst MLOps Academy mit praktischem Code, den du direkt im Browser ausführst, und ein 24/7 KI-Tutor beantwortet deine Fragen während du die Lektion bearbeitest.
Brauche ich Erfahrung, um MLOps Academy zu starten?
Keine Vorkenntnisse erforderlich. MLOps Academy auf CoddyKit ist für Anfänger bis fortgeschrittene Lernende strukturiert, sodass du hier starten oder von Anfang an beginnen und in deinem eigenen Tempo voranschreiten kannst. Dies ist Lektion 2 von 4.
Wie lange dauert die Lektion „Prompts versionieren und Ausgaben bewerten“?
Die meisten CoddyKit-Lektionen dauern etwa 5–10 Minuten. Jede ist kompakt und interaktiv, sodass du stetig Fortschritte machst und genau dort weitermachst, wo du aufgehört hast – im Web und in der App.
Kann ich in dieser MLOps Academy-Lektion Code schreiben und ausführen?
Ja. Jede MLOps Academy-Lektion enthält einen integrierten Code-Editor, sodass du echten Code direkt in deinem Browser schreibst und ausführst und sofort KI-Feedback erhältst — ohne lokale Einrichtung erforderlich.
Alle Lektionen in diesem Kurs
- Wie sich LLMOps von klassischem MLOps unterscheidet
- Prompts versionieren und Ausgaben bewerten
- LLM-Aufrufe nachverfolgen und überwachen
- Guardrails und RAG-Evaluierung