0Pricing
AI Agents · 课时

Instructor / Outlines:保证结构

Instructor(Python)和 Outlines 会限制解码过程,使模型实际上无法生成无效 JSON。

Instructor / Outlines:保证结构 是 CoddyKit 上的免费 AI Agents 课时。 这是第 4 节课,共 4 节。 你可以在下方免费阅读本课时的完整内容 — 然后在浏览器中使用内置代码编辑器和全天候 AI 导师进行实践。 这是 AI Agents 学习路径的一部分,你的进度在网页和 CoddyKit 应用中同步。 AI Agents 课程共包含 4 节课。

本课时的部分内容尚未翻译,以英文显示。

两大库

保证结构化输出的两种主流方案:

  • Instructor(Jason Liu)——适用于 OpenAI、Anthropic 及许多提供商的 Pydantic 封装器
  • Outlines(.txt)——面向 OSS 模型的约束解码

Instructor Basics

# pip install instructor openai
import instructor
from openai import OpenAI
from pydantic import BaseModel

client = instructor.from_openai(OpenAI())

class User(BaseModel):
    name: str
    age: int

user = client.chat.completions.create(
    model='gpt-4o-mini',
    response_model=User,
    messages=[{'role': 'user', 'content': 'Alice, 30'}]
)
print(user.name, user.age)

Instructor 的工作原理

在幕后,Instructor 会:

  1. 根据您的 Pydantic 模型生成 JSON 架构
  2. 将其作为工具添加到 OpenAI 调用中
  3. 强制调用该工具
  4. 解析参数并返回 Pydantic 实例
  5. 在验证错误时通过修复进行重试

Instructor with Validation

from pydantic import field_validator

class User(BaseModel):
    name: str
    age: int

    @field_validator('age')
    @classmethod
    def positive(cls, v):
        if v <= 0:
            raise ValueError('Age must be positive')
        return v

# Instructor catches ValidationError and retries automatically

Streaming Instructor

for partial in client.chat.completions.create_partial(
    model='gpt-4o-mini',
    response_model=User,
    messages=[{'role': 'user', 'content': 'Alice, 30'}]
):
    print(partial)
# Streams partial Pydantic instances as fields fill in.

Instructor with Anthropic

from anthropic import Anthropic
client = instructor.from_anthropic(Anthropic())

user = client.messages.create(
    model='claude-sonnet-4-5',
    max_tokens=1024,
    response_model=User,
    messages=[{'role': 'user', 'content': 'Alice, 30'}]
)

用于 OSS 模型的 Outlines

Outlines 使用语法约束解码。它支持 HuggingFace、vLLM、llama.cpp:

# pip install outlines
import outlines

model = outlines.models.transformers('mistralai/Mistral-7B-Instruct-v0.2')

generator = outlines.generate.json(model, User)
user = generator('Alice, 30')

为什么使用约束解码?

Outlines 会根据架构判断每一步哪些令牌合法,并屏蔽非法令牌。模型实际上无法生成无效 JSON。

Outlines 正则表达式/选项

您可以将输出约束为正则表达式或选项列表:

import outlines.text.generate as g
yes_no = g.choice(model, ['yes', 'no'])
result = yes_no('Are bananas fruits?')   # 'yes'

结合两者

为了获得最高可靠性:

  1. 对托管模型或闭源模型(OpenAI、Anthropic)使用 Instructor
  2. 对自行托管的模型使用 Outlines
  3. 两者共享 Pydantic 模型

成本比较

  • 严格输出(OpenAI 原生功能)——已包含在价格中
  • Instructor——验证失败时的重试会产生少量额外开销
  • Outlines——屏蔽令牌会使吞吐量略有下降,但不会产生额外调用

如何选择

使用场景工具
OpenAI/AnthropicInstructor + Pydantic
自行托管的 OSSOutlines
对延迟敏感OpenAI 结构化输出(原生功能)

Outlines 方法

Outlines 如何保证结构化输出?

回顾

对于 OpenAI/Anthropic,请使用原生结构化输出或 Instructor。对于 OSS,请使用 Outlines。Pydantic 模型将所有部分连接在一起。

常见问题解答

「Instructor / Outlines:保证结构」课时是免费的吗?

是的 — 「Instructor / Outlines:保证结构」的完整文本可在网页上免费阅读。要进行交互式练习(内置代码编辑器和全天候 AI 导师)并解锁 AI Agents 课程的其余内容,请升级到 CoddyKit PRO。 AI Agents 课程共包含 4 节课。

「Instructor / Outlines:保证结构」这节课中我会学到什么?

Instructor(Python)和 Outlines 会限制解码过程,使模型实际上无法生成无效 JSON。 你通过在浏览器中直接运行的动手代码来练习 AI Agents,全天候 AI 导师会在你学习这节课的过程中回答你的问题。

学习 AI Agents 需要有经验吗?

无需任何先前经验。CoddyKit 上的 AI Agents 课程适合初学者到高级学习者,你可以从这里开始或从头开始,按照自己的节奏学习。 这是第 4 节课,共 4 节。

「Instructor / Outlines:保证结构」课时需要多长时间?

大多数 CoddyKit 课程大约需要 5–10 分钟。每节课都很精短且互动,所以你能稳步进步,并在网页和应用中从离开的地方继续。

我能在这节 AI Agents 课中编写并运行代码吗?

能。每节 AI Agents 课都包含内置代码编辑器,你可以在浏览器中直接编写并运行真实代码,并获得即时 AI 反馈 — 无需本地设置。

此课程中的所有课时

  1. JSON 模式与工具调用输出
  2. Pydantic 模式验证
  3. 修复格式错误输出的循环
  4. Instructor / Outlines:保证结构
← 返回 AI Agents