การเรียกใช้ OpenAI API: chat.completions

เหตุใดจึงใช้ chat.completions

ติดตั้ง SDK

# pip install openai
from openai import OpenAI

client = OpenAI()  # reads OPENAI_API_KEY from env

การเรียกใช้ครั้งแรก

response = client.chat.completions.create(
    model='gpt-4o-mini',
    messages=[
        {'role': 'system', 'content': 'You are concise.'},
        {'role': 'user', 'content': 'Capital of France?'},
    ],
)
print(response.choices[0].message.content)
# 'Paris'

โครงสร้างของออบเจ็กต์การตอบกลับ

response.choices[0].message.content       # the text
response.choices[0].finish_reason          # 'stop' / 'length' / 'tool_calls'
response.usage.prompt_tokens               # input tokens
response.usage.completion_tokens           # output tokens
response.usage.total_tokens                # sum
response.id                                # 'chatcmpl-...' for tracing

พารามิเตอร์สำคัญ

อุณหภูมิ: เลือกตามงาน

ลำดับหยุด

response = client.chat.completions.create(
    model='gpt-4o-mini',
    messages=messages,
    stop=['\n\n', 'END'],
)
# Stops as soon as a blank line or 'END' appears.

ตัวเลือกหลายรายการ

response = client.chat.completions.create(
    model='gpt-4o-mini',
    messages=messages,
    n=3,  # three samples
)
for choice in response.choices:
    print(choice.message.content)

ประเภทข้อผิดพลาดที่ต้องจัดการ

การเรียกใช้แบบอะซิงโครนัส

from openai import AsyncOpenAI
import asyncio

client = AsyncOpenAI()

async def ask(q):
    r = await client.chat.completions.create(
        model='gpt-4o-mini',
        messages=[{'role': 'user', 'content': q}],
    )
    return r.choices[0].message.content

results = asyncio.run(asyncio.gather(*[ask(q) for q in questions]))

มีการหมดเวลาและการลองใหม่ในตัว

client = OpenAI(
    timeout=30.0,
    max_retries=3,
)

เหตุผลที่การทำงานสิ้นสุด

ทบทวน