Instructor / Outlines:保证结构
Instructor(Python)和 Outlines 会限制解码过程,使模型实际上无法生成无效 JSON。
Instructor / Outlines:保证结构 是 CoddyKit 上的免费 AI Agents 课时。 这是第 4 节课,共 4 节。 你可以在下方免费阅读本课时的完整内容 — 然后在浏览器中使用内置代码编辑器和全天候 AI 导师进行实践。 这是 AI Agents 学习路径的一部分,你的进度在网页和 CoddyKit 应用中同步。 AI Agents 课程共包含 4 节课。
本课时的部分内容尚未翻译,以英文显示。
两大库
保证结构化输出的两种主流方案:
- Instructor(Jason Liu)——适用于 OpenAI、Anthropic 及许多提供商的 Pydantic 封装器
- Outlines(.txt)——面向 OSS 模型的约束解码
Instructor Basics
# pip install instructor openai
import instructor
from openai import OpenAI
from pydantic import BaseModel
client = instructor.from_openai(OpenAI())
class User(BaseModel):
name: str
age: int
user = client.chat.completions.create(
model='gpt-4o-mini',
response_model=User,
messages=[{'role': 'user', 'content': 'Alice, 30'}]
)
print(user.name, user.age)Instructor 的工作原理
在幕后,Instructor 会:
- 根据您的 Pydantic 模型生成 JSON 架构
- 将其作为工具添加到 OpenAI 调用中
- 强制调用该工具
- 解析参数并返回 Pydantic 实例
- 在验证错误时通过修复进行重试
Instructor with Validation
from pydantic import field_validator
class User(BaseModel):
name: str
age: int
@field_validator('age')
@classmethod
def positive(cls, v):
if v <= 0:
raise ValueError('Age must be positive')
return v
# Instructor catches ValidationError and retries automaticallyStreaming Instructor
for partial in client.chat.completions.create_partial(
model='gpt-4o-mini',
response_model=User,
messages=[{'role': 'user', 'content': 'Alice, 30'}]
):
print(partial)
# Streams partial Pydantic instances as fields fill in.Instructor with Anthropic
from anthropic import Anthropic
client = instructor.from_anthropic(Anthropic())
user = client.messages.create(
model='claude-sonnet-4-5',
max_tokens=1024,
response_model=User,
messages=[{'role': 'user', 'content': 'Alice, 30'}]
)用于 OSS 模型的 Outlines
Outlines 使用语法约束解码。它支持 HuggingFace、vLLM、llama.cpp:
# pip install outlines
import outlines
model = outlines.models.transformers('mistralai/Mistral-7B-Instruct-v0.2')
generator = outlines.generate.json(model, User)
user = generator('Alice, 30')为什么使用约束解码?
Outlines 会根据架构判断每一步哪些令牌合法,并屏蔽非法令牌。模型实际上无法生成无效 JSON。
Outlines 正则表达式/选项
您可以将输出约束为正则表达式或选项列表:
import outlines.text.generate as g
yes_no = g.choice(model, ['yes', 'no'])
result = yes_no('Are bananas fruits?') # 'yes'结合两者
为了获得最高可靠性:
- 对托管模型或闭源模型(OpenAI、Anthropic)使用 Instructor
- 对自行托管的模型使用 Outlines
- 两者共享 Pydantic 模型
成本比较
- 严格输出(OpenAI 原生功能)——已包含在价格中
- Instructor——验证失败时的重试会产生少量额外开销
- Outlines——屏蔽令牌会使吞吐量略有下降,但不会产生额外调用
如何选择
| 使用场景 | 工具 |
|---|---|
| OpenAI/Anthropic | Instructor + Pydantic |
| 自行托管的 OSS | Outlines |
| 对延迟敏感 | OpenAI 结构化输出(原生功能) |
Outlines 方法
Outlines 如何保证结构化输出?
回顾
对于 OpenAI/Anthropic,请使用原生结构化输出或 Instructor。对于 OSS,请使用 Outlines。Pydantic 模型将所有部分连接在一起。
常见问题解答
「Instructor / Outlines:保证结构」课时是免费的吗?
是的 — 「Instructor / Outlines:保证结构」的完整文本可在网页上免费阅读。要进行交互式练习(内置代码编辑器和全天候 AI 导师)并解锁 AI Agents 课程的其余内容,请升级到 CoddyKit PRO。 AI Agents 课程共包含 4 节课。
「Instructor / Outlines:保证结构」这节课中我会学到什么?
Instructor(Python)和 Outlines 会限制解码过程,使模型实际上无法生成无效 JSON。 你通过在浏览器中直接运行的动手代码来练习 AI Agents,全天候 AI 导师会在你学习这节课的过程中回答你的问题。
学习 AI Agents 需要有经验吗?
无需任何先前经验。CoddyKit 上的 AI Agents 课程适合初学者到高级学习者,你可以从这里开始或从头开始,按照自己的节奏学习。 这是第 4 节课,共 4 节。
「Instructor / Outlines:保证结构」课时需要多长时间?
大多数 CoddyKit 课程大约需要 5–10 分钟。每节课都很精短且互动,所以你能稳步进步,并在网页和应用中从离开的地方继续。
我能在这节 AI Agents 课中编写并运行代码吗?
能。每节 AI Agents 课都包含内置代码编辑器,你可以在浏览器中直接编写并运行真实代码,并获得即时 AI 反馈 — 无需本地设置。
此课程中的所有课时
- JSON 模式与工具调用输出
- Pydantic 模式验证
- 修复格式错误输出的循环
- Instructor / Outlines:保证结构