混合方案：提示加轻量调优
结合两种方法。
混合方案：提示加轻量调优 是 CoddyKit 上的免费 AI Prompt Engineering 课时。 这是第 3 节课，共 4 节。 你可以在下方免费阅读本课时的完整内容 — 然后在浏览器中使用内置代码编辑器和全天候 AI 导师进行实践。 这是 AI Prompt Engineering 学习路径的一部分，你的进度在网页和 CoddyKit 应用中同步。 AI Prompt Engineering 课程共包含 4 节课。
混合思维
提示工程和微调并不是竞争对手，而是不同的层。专家采用的模式是：对模型进行轻度微调，让它处理稳定且习得的行为，再用一层简短提示词包裹它，提供易变的每次请求上下文。
- 微调吸收稳定的内容：格式、语气、任务框架
- 提示工程提供易变的内容：指令、检索到的事实、用户状态
- 每一层都负责自己最擅长的事情；没有任何一层需要独自承担全部负担
稳定与易变的拆分
混合方案的核心能力，是沿着稳定/易变这一维度拆分行为。凡是在各次调用中都相同、且在提示词中重复传递成本高昂的内容，都是调优候选项。凡是每次调用都会变化的内容，都必须保留在提示词中。
无论朝哪个方向拆错了这一划分，您都会付出代价：将易变内容固化到权重中，想要更改它就必须重新调优；将稳定内容保留在提示词中，则意味着您要永远承担它带来的令牌成本。
# Classify each behavior element before deciding where it lives
def placement(element):
# element: dict with 'changes_per_call' and 'repeated_every_call'
if element['changes_per_call']:
return 'PROMPT' # volatile -> must stay dynamic
if element['repeated_every_call']:
return 'WEIGHTS' # stable + repetitive -> distill into tuning
return 'PROMPT' # default to the flexible layer
print(placement({'changes_per_call': False, 'repeated_every_call': True}))
# WEIGHTS模式 A：提示词蒸馏
这是最有价值的混合方案模式。您先设计一个内容丰富、质量很高的提示词，用它生成高质量参考输出，然后使用短提示词根据这些输出调优模型。
结果是：模型的表现仿佛仍然拥有那个长提示词，但您上线时只需传递其中一小部分令牌。昂贵的提示词成为教师，廉价的提示词成为运行时接口。延迟、成本和一致性同时得到改善。
# Build distillation set: long prompt -> output, store with SHORT prompt
def distill_example(input_x, long_prompt, teacher):
full = long_prompt + '\n\n' + input_x
gold = teacher(full) # quality from the long prompt
short = 'Task: process the input.\n' + input_x # runtime prompt
return {'messages': [
{'role': 'user', 'content': short},
{'role': 'assistant', 'content': gold},
]}模式 B：为结构调优，为内容使用提示词
将模型调优为始终输出正确的结构——严格的模式、统一的语调或领域 DSL——并让提示词承载每个请求的具体内容。
当格式遵循必须接近完美、规则多到难以逐一列举，而实际内容完全动态时，这种方式最为理想。调优后的模型不再在结构上与您对抗，从而为指令和检索到的上下文释放提示词令牌。
模式 C：调优路由器与提示词驱动的专家模型
在多步骤系统中，针对范围狭窄且调用量很大的决策（分类、路由和提取）调优一个小型快速模型，同时为开放式推理步骤保留一个使用提示词的大型模型。
对于任务范围狭窄的部分，您可以获得小型调优模型带来的成本和延迟优势；对于任务范围广泛的部分，则保留使用提示词的灵活性。路由器是稳定且经过调优的；随着需求变化，专家模型仍可通过提示词调整。
def pipeline(user_input, router_tuned, expert_prompted):
route = router_tuned(user_input) # cheap, fast, learned
if route == 'simple':
return router_tuned(user_input) # small model handles it
# complex -> hand to large prompted model with full instructions
return expert_prompted(
'Detailed instructions...\n' + user_input
)将 RAG 保留在提示词层
即使使用了调优模型，知识也应通过检索获取，而不是通过训练获得。混合模型学习的是如何使用上下文；提示词提供的是本次请求需要使用哪些上下文。
这正是混合方案能够长期保持良好表现的原因：基础行为被冻结在权重中，而事实则会在每次调用时通过检索更新。您很少需要重新调优（行为），却可以持续更新知识，而且无需承担训练成本。
轻量调优：LoRA 与适配器
混合方案倾向于采用轻量调优。LoRA 风格的适配器只训练少量额外参数，同时保持基础模型冻结。它们成本低、迭代快，而且可以叠加使用。
- 在一个基础模型上为不同任务训练多个适配器
- 在提供服务时切换适配器，无需重新加载基础模型
- 当行为发生漂移时，在几小时而不是几天内重新训练适配器
这样既能让混合方案保持接近提示词方案的迭代速度，又能获得调优带来的一致性优势。
避免重复指定
混合方案中的一个经典错误是：模型已经经过调优，可以执行 X，而且提示词仍在指示它执行 X。重复的提示词令牌违背了蒸馏的初衷，甚至可能与模型学到的行为发生冲突。
调优后，请大幅删减提示词，移除所有已经固化到权重中的内容。删减后重新运行评估，确认即使没有重复指令，调优后的行为仍然成立。
# After tuning, prune prompt lines that the model now does on its own
def trim_prompt(prompt_lines, behaviors_in_weights):
return [ln for ln in prompt_lines
if not any(b in ln for b in behaviors_in_weights)]
kept = trim_prompt(
['Use JSON schema', 'Write in formal tone', 'Answer the question'],
behaviors_in_weights=['JSON schema', 'formal tone'])
print(kept) # ['Answer the question'] -- only the volatile part remains对两个层级一起进行版本管理
混合方案包含两个相互关联的产物：适配器版本和提示词模板版本。它们必须成对进行版本管理和部署——为适配器 v3 编写的提示词，在适配器 v4 上可能表现异常。
在配置中固定这对版本，针对您将要上线的确切组合运行评估，并将这两个版本一起回滚。将它们独立对待，是产生不易察觉的混合方案回归问题的最常见原因。
重新调优频率
由于易变行为存在于提示词中，构建良好的混合方案只需要很少重新调优——主要是在基础模型弃用，或稳定行为确实发生变化时进行。日常变化都可以在提示词层完成，无需承担训练成本。
如果您发现自己需要频繁重新调优，说明稳定/易变内容的划分有误：易变内容已经渗入权重。请将其移回提示词中。
混合方案端到端示意
完整流程是：检索上下文，针对调优后的适配器生成简短提示词，并让权重提供已学会的结构。知识和指令保持动态；结构和语调则固化其中。
def hybrid_call(user_q, retriever, tuned_model, adapter_version):
docs = retriever.search(user_q, k=4) # volatile knowledge
ctx = '\n'.join(d.text for d in docs)
short_prompt = (
'Answer from context.\n' # form is in weights
'<context>' + ctx + '</context>\n'
'<q>' + user_q + '</q>'
)
return tuned_model.generate(short_prompt, adapter=adapter_version)快速检查
您将一个长提示词蒸馏到 LoRA 适配器中，因此模型现在总能输出严格的 JSON 结构。运行时提示词应该发生什么变化？
回顾
混合方案 = 针对稳定行为进行调优，针对易变上下文使用提示词。沿着稳定/易变这一维度拆分行为，让每个层级发挥各自最擅长的作用。
- 提示词蒸馏：长提示词负责教学，短提示词负责服务
- 为结构调优、为内容使用提示词；使用提示词的专家模型配合调优路由器
- 通过检索保留知识，让混合方案能够长期保持良好表现
- 优先使用轻量的 LoRA 风格适配器，以提高迭代速度
- 删减重复指定的指令，并将适配器与提示词作为一对进行版本管理
- 频繁重新调优意味着易变内容已渗入权重——请将其移回提示词
常见问题解答
「混合方案：提示加轻量调优」课时是免费的吗？
是的 — 「混合方案：提示加轻量调优」的完整文本可在网页上免费阅读。要进行交互式练习（内置代码编辑器和全天候 AI 导师）并解锁 AI Prompt Engineering 课程的其余内容，请升级到 CoddyKit PRO。 AI Prompt Engineering 课程共包含 4 节课。
「混合方案：提示加轻量调优」这节课中我会学到什么？
结合两种方法。 你通过在浏览器中直接运行的动手代码来练习 AI Prompt Engineering，全天候 AI 导师会在你学习这节课的过程中回答你的问题。
学习 AI Prompt Engineering 需要有经验吗？
无需任何先前经验。CoddyKit 上的 AI Prompt Engineering 课程适合初学者到高级学习者，你可以从这里开始或从头开始，按照自己的节奏学习。 这是第 3 节课，共 4 节。
「混合方案：提示加轻量调优」课时需要多长时间？
大多数 CoddyKit 课程大约需要 5–10 分钟。每节课都很精短且互动，所以你能稳步进步，并在网页和应用中从离开的地方继续。
我能在这节 AI Prompt Engineering 课中编写并运行代码吗？
能。每节 AI Prompt Engineering 课都包含内置代码编辑器，你可以在浏览器中直接编写并运行真实代码，并获得即时 AI 反馈 — 无需本地设置。