在运行时选择工具
让模型决定调用哪个工具,强制调用指定工具,或只公开与当前状态相关的工具。
在运行时选择工具 是 CoddyKit 上的免费 AI Agents 课时。 这是第 3 节课,共 4 节。 你可以在下方免费阅读本课时的完整内容 — 然后在浏览器中使用内置代码编辑器和全天候 AI 导师进行实践。 这是 AI Agents 学习路径的一部分,你的进度在网页和 CoddyKit 应用中同步。 AI Agents 课程共包含 4 节课。
让模型自行选择
默认情况下,您会向模型提供一个工具列表,由模型决定调用哪个工具(也可以不调用)。这是标准模式,适用于以下情况:
- 您有 5 至 15 个工具
- 工具的描述清晰且彼此区别明显
- 应使用哪个工具取决于用户输入
工具选择:自动
默认模式——由模型决定:
response = client.chat.completions.create(
model='gpt-4o-mini',
messages=messages,
tools=tools,
tool_choice='auto', # default; can be omitted
)工具选择:必需
强制模型调用某个工具(任意一个):
response = client.chat.completions.create(
model='gpt-4o-mini',
messages=messages,
tools=tools,
tool_choice='required',
)
# Model must return a tool_call, never a free-form answer强制调用特定工具
如果要强制调用某个特定工具,请指定其名称:
response = client.chat.completions.create(
model='gpt-4o-mini',
messages=messages,
tools=tools,
tool_choice={'type': 'function', 'function': {'name': 'extract_entities'}},
)工具选择:无
在某一轮中禁用工具:
# After a tool result, you might want a pure text response:
response = client.chat.completions.create(
model='gpt-4o-mini',
messages=messages,
tools=tools,
tool_choice='none',
)根据上下文裁剪工具列表
从大型工具集合中选择时,模型的表现会变差。请只暴露与当前状态相关的工具:
def relevant_tools(state):
if state == 'authenticated':
return [search_orders, refund_order, escalate]
elif state == 'guest':
return [search_products, contact_support]
return []两阶段工具选择
对于 50 个以上的工具,请使用层级结构:
- 外层智能体选择一个领域(订单 / 账单 / 配送)
- 内层智能体在该领域内选择具体工具
每次调用只会看到约 10 个工具。
对工具进行向量搜索
为每个工具描述生成嵌入;运行时为用户查询生成嵌入,然后检索排名最高的 K 个工具并将其暴露出来:
from openai import OpenAI
import numpy as np
query_emb = embed(user_query)
sims = [cosine(query_emb, tool.emb) for tool in all_tools]
top = [t for _, t in sorted(zip(sims, all_tools), reverse=True)[:10]]
# Send only these 10 to the modelAnthropic 工具选择
Anthropic 使用相同的概念,但形式不同:
tool_choice = {'type': 'auto'}
print("auto:", tool_choice)
tool_choice = {'type': 'any'} # required
print("any (required):", tool_choice)
tool_choice = {'type': 'tool', 'name': 'get_weather'} # specific
print("specific tool:", tool_choice)
tool_choice = {'type': 'none'}
print("none:", tool_choice)
为什么要强制调用特定工具
以下情况非常有用:
- 验证——提取一个特定的结构化字段
- 路由——用户点击了“退款”,因此调用 refund_order
- 结构化输出——借助工具调用获取 JSON
空工具列表
如果您传入 tools=[],但将 tool_choice="required",就会收到错误。发送前请始终验证工具列表。
强制 JSON 输出
为什么可能需要强制调用特定工具?
回顾
大多数情况下使用自动模式。对于路由和结构化提取,请强制调用工具。根据状态裁剪工具列表,以保持选择准确。
常见问题解答
「在运行时选择工具」课时是免费的吗?
是的 — 「在运行时选择工具」的完整文本可在网页上免费阅读。要进行交互式练习(内置代码编辑器和全天候 AI 导师)并解锁 AI Agents 课程的其余内容,请升级到 CoddyKit PRO。 AI Agents 课程共包含 4 节课。
「在运行时选择工具」这节课中我会学到什么?
让模型决定调用哪个工具,强制调用指定工具,或只公开与当前状态相关的工具。 你通过在浏览器中直接运行的动手代码来练习 AI Agents,全天候 AI 导师会在你学习这节课的过程中回答你的问题。
学习 AI Agents 需要有经验吗?
无需任何先前经验。CoddyKit 上的 AI Agents 课程适合初学者到高级学习者,你可以从这里开始或从头开始,按照自己的节奏学习。 这是第 3 节课,共 4 节。
「在运行时选择工具」课时需要多长时间?
大多数 CoddyKit 课程大约需要 5–10 分钟。每节课都很精短且互动,所以你能稳步进步,并在网页和应用中从离开的地方继续。
我能在这节 AI Agents 课中编写并运行代码吗?
能。每节 AI Agents 课都包含内置代码编辑器,你可以在浏览器中直接编写并运行真实代码,并获得即时 AI 反馈 — 无需本地设置。