Perbezaan Model Penaakulan
Rantaian pemikiran dalaman berbanding model standard: perkara yang berubah bagi penulis gesaan.
Perbezaan Model Penaakulan ialah pelajaran Kejuruteraan Arahan AI percuma di CoddyKit. Ini ialah pelajaran 1 daripada 4. Sebanyak 3 pelajaran dalam laluan pembelajaran ini boleh dibaca sepenuhnya secara percuma — selepas itu, CoddyKit PRO membuka akses kepada semua pelajaran, serta latihan praktikal dengan penyunting kod terbina dalam dan tutor kecerdasan buatan yang tersedia 24/7. Pelajaran ini merupakan sebahagian daripada laluan pembelajaran Kejuruteraan Arahan AI, dan kemajuan anda disegerakkan merentas web serta aplikasi CoddyKit. Kursus Kejuruteraan Arahan AI merangkumi sejumlah 4 pelajaran.
Apakah Model Penaakulan?
Model penaakulan ialah LLM yang dilatih dan dikonfigurasikan secara khusus untuk menjalankan pertimbangan dalaman yang panjang sebelum menghasilkan respons. Contohnya termasuk siri o1/o3/o4 OpenAI dan Claude daripada Anthropic dengan pemikiran lanjutan yang diaktifkan.
Berbeza daripada model standard yang menjana teks token demi token secara langsung daripada gesaan anda, model penaakulan terlebih dahulu menghasilkan rantaian pemikiran dalaman yang panjang, kemudian meringkaskannya menjadi jawapan akhir.
Standard berbanding Penaakulan: Perkara yang Anda Lihat
Dari perspektif pengguna antara muka pengaturcaraan aplikasi, perbezaannya ialah:
- Model standard: Masukan → Keluaran (pantas dan langsung)
- Model penaakulan: Masukan → [Pemikiran dalaman, disembunyikan atau dihantar secara berstrim] → Keluaran (lebih perlahan, lebih tepat untuk masalah sukar)
Proses pemikiran ialah ruang catatan sementara peribadi model. Proses ini mungkin mengandungi laluan yang tersasar, pembetulan kendiri dan pengiraan perantaraan yang tidak pernah muncul dalam jawapan akhir.
Siri o OpenAI: Tingkah Laku Antara Muka Pengaturcaraan Aplikasi
Model o1/o3/o4 OpenAI mengendalikan proses pemikiran secara dalaman — anda tidak melihat token penaakulan secara lalai. Anda boleh melihat jumlah token pemikiran dalam metadata penggunaan, tetapi bukan kandungannya.
import openai
client = openai.OpenAI(api_key='sk-...')
# o3 — reasoning happens internally
response = client.chat.completions.create(
model='o3',
messages=[
{'role': 'user', 'content': 'Solve: A train leaves Chicago at 9am going 60mph. Another leaves NYC at 10am going 80mph. If the distance is 790 miles, when do they meet?'}
],
# reasoning_effort='high' # Optional: 'low', 'medium', 'high'
)
print(response.choices[0].message.content)
# Check how many tokens were used for thinking:
print('Input tokens:', response.usage.prompt_tokens)
print('Output tokens:', response.usage.completion_tokens)Pemikiran Lanjutan Claude: Tingkah Laku Antara Muka Pengaturcaraan Aplikasi
Claude daripada Anthropic mendedahkan token pemikiran lanjutan melalui antara muka pengaturcaraan aplikasi. Anda boleh stream dan memerhatikan proses penaakulan model dalam masa nyata. Kandungan pemikiran muncul sebelum respons akhir.
import anthropic
client = anthropic.Anthropic(api_key='sk-ant-...')
# Enable extended thinking
response = client.messages.create(
model='claude-opus-4-5',
max_tokens=16000,
thinking={
'type': 'enabled',
'budget_tokens': 10000 # Max tokens for thinking
},
messages=[{
'role': 'user',
'content': 'What is the 100th prime number?'
}]
)
# Response contains both thinking blocks and text blocks
for block in response.content:
if block.type == 'thinking':
print('THINKING:', block.thinking[:200], '...')
elif block.type == 'text':
print('ANSWER:', block.text)Penstriman Token Pemikiran
Anda boleh stream pemikiran lanjutan dalam masa nyata untuk melihat penaakulan model ketika proses itu berlangsung. Hal ini berguna untuk pengalaman pengguna — memaparkan animasi 'berfikir' atau membolehkan pengguna lanjutan memerhatikan proses penaakulan.
import anthropic
client = anthropic.Anthropic(api_key='sk-ant-...')
def stream_with_thinking(question):
with client.messages.stream(
model='claude-opus-4-5',
max_tokens=16000,
thinking={'type': 'enabled', 'budget_tokens': 8000},
messages=[{'role': 'user', 'content': question}]
) as stream:
current_block_type = None
for event in stream:
# Track which block type we're in
if hasattr(event, 'type'):
if 'thinking' in str(event.type):
current_block_type = 'thinking'
elif 'text' in str(event.type):
current_block_type = 'text'
# Print text delta
if hasattr(event, 'delta') and hasattr(event.delta, 'text'):
prefix = '[THINK] ' if current_block_type == 'thinking' else '[ANS] '
print(prefix + event.delta.text, end='', flush=True)
stream_with_thinking('Explain why P != NP is unproven.')Apa yang Berlaku Secara Dalaman: Ruang Catatan Sementara
Pemikiran dalaman model ialah ruang catatan sementara yang membolehkannya:
- Meneroka pelbagai pendekatan sebelum membuat keputusan
- Membuat pengiraan dan mengesahkannya
- Mengenal pasti ralat sendiri dan mengundur semula
- Mempertimbangkan kes tepi
- Merancang penyelesaian berbilang langkah
Pertimbangan dalaman ini menjelaskan sebab model penaakulan jauh mengatasi model standard dalam matematik sukar, pengaturcaraan dan perancangan strategik — model ini pada asasnya melakukan sorotan kajian sebelum menulis.
budget_tokens: Mengawal Kedalaman Penaakulan
budget_tokens (Claude) atau reasoning_effort (OpenAI) mengawal sejauh mana model membuat penaakulan. Lebih banyak penaakulan menghasilkan ketepatan yang lebih tinggi untuk masalah sukar, tetapi kos dan kependaman juga meningkat.
import anthropic
client = anthropic.Anthropic(api_key='sk-ant-...')
def ask_with_budget(question, budget):
r = client.messages.create(
model='claude-opus-4-5',
max_tokens=budget + 2048, # must exceed budget_tokens
thinking={'type': 'enabled', 'budget_tokens': budget},
messages=[{'role': 'user', 'content': question}]
)
thinking_tokens = sum(
len(b.thinking.split()) * 1.3 # rough estimate
for b in r.content if b.type == 'thinking'
)
answer = next(b.text for b in r.content if b.type == 'text')
return answer, int(thinking_tokens)
# Same hard question with different budgets
q = 'Prove that the square root of 2 is irrational.'
ans_small, tok_small = ask_with_budget(q, 1024)
ans_large, tok_large = ask_with_budget(q, 8000)
print(f'Small budget ({tok_small} thinking tokens): {ans_small[:100]}')
print(f'Large budget ({tok_large} thinking tokens): {ans_large[:100]}')Suhu dan Model Penaakulan
Model penaakulan berkelakuan berbeza apabila menggunakan tetapan suhu:
- Untuk siri o OpenAI: suhu ditetapkan kepada 1 secara lalai dan tidak semestinya boleh diubah
- Untuk pemikiran lanjutan Claude: suhu biasanya ditetapkan kepada 1 semasa proses penaakulan
Jangan cuba menggunakan suhu untuk mengawal tingkah laku model penaakulan — gunakan budget_tokens atau reasoning_effort sebagai ganti.
import anthropic
client = anthropic.Anthropic(api_key='sk-ant-...')
# For Claude with extended thinking, temperature=1 is the default
# and best practice
response = client.messages.create(
model='claude-opus-4-5',
max_tokens=10000,
temperature=1, # Required to be 1 when extended thinking is enabled
thinking={
'type': 'enabled',
'budget_tokens': 5000
},
messages=[{
'role': 'user',
'content': 'Write a Python function to find all prime numbers up to N.'
}]
)
print(response.content[-1].text[:300])Penanda Aras Prestasi: Keunggulan Penaakulan
Model penaakulan paling ketara mengatasi model piawai dalam perkara berikut:
- Matematik pertandingan: AIME, AMC (o3 hampir setanding pakar manusia)
- Pengekodan kompleks: Pengaturcaraan kompetitif (Codeforces)
- Penaakulan saintifik: GPQA (sains peringkat siswazah)
- Logik berbilang langkah: Masalah yang memerlukan deduksi berurutan
Untuk tugas mudah seperti tatabahasa, peringkasan dan soal jawab fakta, model piawai memberikan prestasi yang sama baik pada kos 10-100x lebih rendah.
Realiti Kependaman
Model penaakulan adalah perlahan. Masalah sukar dengan usaha penaakulan yang tinggi boleh mengambil masa 30-60 saat. Rancang pengalaman pengguna anda dengan sewajarnya:
- Paparkan penunjuk kemajuan seperti 'sedang berfikir...'
- Gunakan penstriman untuk memaparkan hasil separa apabila tersedia
- Jangan gunakan model penaakulan untuk sembang masa nyata apabila kependaman penting
- Jana hasil model penaakulan terlebih dahulu untuk soalan sukar yang diketahui
import time
import anthropic
client = anthropic.Anthropic(api_key='sk-ant-...')
def timed_reasoning_call(question, budget):
start = time.time()
response = client.messages.create(
model='claude-opus-4-5',
max_tokens=budget + 2000,
thinking={'type': 'enabled', 'budget_tokens': budget},
messages=[{'role': 'user', 'content': question}]
)
elapsed = time.time() - start
answer = next(b.text for b in response.content if b.type == 'text')
print(f'Latency: {elapsed:.1f}s | Answer: {answer[:100]}')
return answer
# Hard problem — expect 20-45 seconds
timed_reasoning_call(
'Design a database schema for a multi-tenant SaaS billing system.',
budget=8000
)Model Penaakulan dan Gesaan Sistem
Model penaakulan memberikan respons kepada gesaan sistem secara berbeza daripada model piawai. Oleh sebab model ini membuat pertimbangan secara dalaman sebelum menjawab, model ini dapat mengikuti arahan kompleks berbilang langkah dalam gesaan sistem dengan lebih konsisten.
Walau bagaimanapun, gesaan sistem yang sangat panjang dan terlalu mengekang boleh bercanggah dengan penaakulan dalaman. Amalan terbaik: pastikan gesaan sistem ringkas untuk model penaakulan — tentukan peranan dan format hasil, kemudian biarkan penaakulan dalaman model mengendalikan strateginya.
Semakan Pengetahuan: Pemikiran Model Penaakulan
Apakah perbezaan utama antara perkara yang diberikan oleh pengarang gesaan dengan perkara yang berlaku secara dalaman dalam model penaakulan?
Imbas Kembali: Perbezaan Model Penaakulan
Model penaakulan seperti o1/o3 dan Claude dengan pemikiran lanjutan menjalankan rantaian pemikiran dalaman sebelum memberikan respons. Pengarang gesaan memberikan masalah; model membuat pertimbangan secara dalaman, meneroka pendekatan dan membetulkan kesilapan sendiri, kemudian menghasilkan jawapan akhir. Anda mengawal kedalaman penaakulan menggunakan budget_tokens (Claude) atau reasoning_effort (OpenAI). Model penaakulan cemerlang dalam matematik kompleks, pengekodan dan logik berbilang langkah, tetapi kosnya 10-100x lebih tinggi dan kelajuannya 10-100x lebih perlahan berbanding model piawai. Gunakan penstriman dan penunjuk kemajuan untuk mengurus kependaman dalam pengalaman pengguna anda.
Pelajari Kejuruteraan Arahan AI dengan tutor kecerdasan buatan — percuma
Tulis dan jalankan kod sebenar dalam pelayar anda, dapatkan bantuan segera daripada tutor kecerdasan buatan yang tersedia 24/7, dan sambung semula dari tempat anda berhenti di web atau dalam aplikasi.
- Kursus
- 53
- Pelajaran
- 199
Soalan Lazim
Adakah pelajaran “Perbezaan Model Penaakulan” percuma?
Ya — sebanyak 3 pelajaran dalam laluan pembelajaran Kejuruteraan Arahan AI, termasuk “Perbezaan Model Penaakulan”, boleh dibaca sepenuhnya secara percuma di web ini. Selepas itu, CoddyKit PRO membuka akses kepada semua pelajaran, serta latihan interaktif dengan penyunting kod terbina dalam dan tutor kecerdasan buatan yang tersedia 24/7. Kursus Kejuruteraan Arahan AI merangkumi sejumlah 4 pelajaran.
Apakah yang akan saya pelajari dalam “Perbezaan Model Penaakulan”?
Rantaian pemikiran dalaman berbanding model standard: perkara yang berubah bagi penulis gesaan. Anda berlatih Kejuruteraan Arahan AI menggunakan kod praktikal yang dijalankan terus dalam pelayar, manakala tutor kecerdasan buatan 24/7 menjawab soalan anda semasa anda mengikuti pelajaran.
Adakah saya memerlukan pengalaman untuk memulakan Kejuruteraan Arahan AI?
Tiada pengalaman terdahulu diperlukan. Pembelajaran Kejuruteraan Arahan AI di CoddyKit disusun untuk pelajar daripada peringkat pemula hingga lanjutan, jadi anda boleh bermula di sini atau dari awal dan belajar mengikut kadar anda sendiri. Ini ialah pelajaran 1 daripada 4.
Berapa lamakah pelajaran “Perbezaan Model Penaakulan” diambil?
Kebanyakan pelajaran CoddyKit mengambil masa kira-kira 5–10 minit. Setiap pelajaran ringkas dan interaktif, jadi anda boleh membuat kemajuan secara berterusan dan menyambung tepat dari tempat anda berhenti di web atau aplikasi.
Bolehkah saya menulis dan menjalankan kod dalam pelajaran Kejuruteraan Arahan AI ini?
Ya. Setiap pelajaran Kejuruteraan Arahan AI menyertakan penyunting kod terbina dalam, jadi anda boleh menulis dan menjalankan kod sebenar terus dalam pelayar serta menerima maklum balas kecerdasan buatan serta-merta — tanpa memerlukan persediaan setempat.
Semua pelajaran dalam kursus ini
- Perbezaan Model Penaakulan
- Gesaan Berkesan untuk Pemikiran Lanjutan
- Bila Perlu Menggunakan Model Penaakulan berbanding Model Standard
- Pertukaran Kos dan Kependaman