Kejuruteraan Arahan AI · Pelajaran

Bila Perlu Menggunakan Model Penaakulan berbanding Model Standard

Jenis masalah yang mendapat manfaat daripada pemikiran lanjutan: matematik, kod dan logik berbilang langkah.

Pelajaran 3 daripada 413 langkah

Bila Perlu Menggunakan Model Penaakulan berbanding Model Standard ialah pelajaran Kejuruteraan Arahan AI percuma di CoddyKit. Ini ialah pelajaran 3 daripada 4. Sebanyak 3 pelajaran dalam laluan pembelajaran ini boleh dibaca sepenuhnya secara percuma — selepas itu, CoddyKit PRO membuka akses kepada semua pelajaran, serta latihan praktikal dengan penyunting kod terbina dalam dan tutor kecerdasan buatan yang tersedia 24/7. Pelajaran ini merupakan sebahagian daripada laluan pembelajaran Kejuruteraan Arahan AI, dan kemajuan anda disegerakkan merentas web serta aplikasi CoddyKit. Kursus Kejuruteraan Arahan AI merangkumi sejumlah 4 pelajaran.

Tidak Semua Tugas Memerlukan Model Penaakulan

Model penaakulan berkuasa tetapi mahal dan perlahan. Memilih jenis model yang tepat untuk setiap tugas ialah salah satu keputusan paling penting dalam reka bentuk sistem LLM.

Soalan utamanya: adakah tugas ini benar-benar mendapat manfaat daripada pertimbangan lanjutan? Banyak tugas tidak memerlukannya — menggunakan model penaakulan untuk tugas tersebut membazirkan wang tanpa meningkatkan kualiti.

Keunggulan Model Penaakulan: Matematik Berbilang Langkah

Model penaakulan mengatasi model piawai dengan ketara dalam masalah matematik yang memerlukan beberapa langkah, terutamanya apabila ralat terkumpul dari satu langkah ke langkah berikutnya.

import anthropic

client = anthropic.Anthropic(api_key='sk-ant-...')

# Multi-step math: use reasoning model
hard_math_prompt = (
    'A company has 3 factories. Factory A produces 240 units/day, '
    'Factory B produces 180 units/day, and Factory C produces 300 units/day. '
    'They operate 5 days/week. A unit sells for $47.50. Operating costs are '
    '$18,000/week for A, $14,500/week for B, and $22,000/week for C. '
    'What is the total weekly profit across all factories?'
)

response = client.messages.create(
    model='claude-opus-4-5',
    max_tokens=8000,
    thinking={'type': 'enabled', 'budget_tokens': 5000},
    messages=[{'role': 'user', 'content': hard_math_prompt}]
)
print(next(b.text for b in response.content if b.type == 'text'))

Keunggulan Model Penaakulan: Kod Kompleks

Untuk masalah algoritma — melaksanakan struktur data, menyahpepijat ralat logik yang halus atau mereka bentuk penyelesaian yang cekap — model penaakulan mengatasi model piawai kerana model ini boleh meneroka beberapa pendekatan secara dalaman sebelum membuat keputusan.

import anthropic

client = anthropic.Anthropic(api_key='sk-ant-...')

# Complex coding: use reasoning model
code_prompt = (
    'Implement a thread-safe LRU cache in Python with these requirements:\n'
    '- O(1) get and put operations\n'
    '- Thread-safe using minimal locking\n'
    '- Support a max_size parameter\n'
    '- Include full docstrings and type hints\n'
    '- Handle edge cases: empty cache, size=1, duplicate keys'
)

response = client.messages.create(
    model='claude-opus-4-5',
    max_tokens=10000,
    thinking={'type': 'enabled', 'budget_tokens': 8000},
    messages=[{'role': 'user', 'content': code_prompt}]
)
code = next(b.text for b in response.content if b.type == 'text')
print(code[:400])

Keunggulan Model Penaakulan: Perancangan Strategik

Tugas yang memerlukan penilaian terhadap beberapa pilihan yang bersaing, pertimbangan timbal balik merentas banyak dimensi dan akibat jangka panjang mendapat manfaat daripada penaakulan lanjutan. Contohnya: keputusan reka bentuk seni bina, penilaian hala tuju produk dan analisis pelaburan.

import anthropic

client = anthropic.Anthropic(api_key='sk-ant-...')

# Strategic decision: reasoning model adds real value
strategy_prompt = (
    'We are a B2B SaaS startup with $2M ARR, 15% monthly churn, '
    '3 engineers, and $800K runway. We have two options:\n'
    'A) Raise a Series A now at a $10M valuation\n'
    'B) Cut costs, extend runway 18 months, raise at higher valuation\n\n'
    'Analyze the trade-offs and recommend a course of action with reasoning.'
)

response = client.messages.create(
    model='claude-opus-4-5',
    max_tokens=10000,
    thinking={'type': 'enabled', 'budget_tokens': 8000},
    messages=[{'role': 'user', 'content': strategy_prompt}]
)
print(next(b.text for b in response.content if b.type == 'text')[:400])

Keunggulan Model Piawai: Soal Jawab Mudah

Soalan fakta dengan jawapan langsung tidak mendapat manfaat daripada penaakulan lanjutan. Menggunakan o3 atau pemikiran lanjutan Claude untuk 'Apakah ibu negara Perancis?' membazirkan wang 20-50x lebih banyak untuk hasil yang sama.

import anthropic

client = anthropic.Anthropic(api_key='sk-ant-...')

# Simple Q&A: standard model is just as good, much cheaper
simple_questions = [
    'What is the capital of France?',
    'Who wrote Hamlet?',
    'What year did the Berlin Wall fall?',
]

for q in simple_questions:
    # Use claude-haiku-4-5 — fast, cheap, equally accurate for factual recall
    r = client.messages.create(
        model='claude-haiku-4-5',
        max_tokens=50,
        messages=[{'role': 'user', 'content': q}]
    )
    print(f'Q: {q}\nA: {r.content[0].text}\n')

# Reasoning model would give the same answers at 50-100x the cost

Keunggulan Model Piawai: Pemformatan Teks

Memformat semula, meringkaskan, menterjemah dan mengubah teks tidak memerlukan penaakulan mendalam — tugas ini memerlukan kefasihan bahasa. Model piawai cemerlang dalam tugas ini pada kos dan kependaman yang jauh lebih rendah.

import anthropic

client = anthropic.Anthropic(api_key='sk-ant-...')

# Text formatting tasks: standard model wins
formatting_tasks = [
    ('Summarize in 2 sentences: The Eiffel Tower was built in 1889...', 100),
    ('Translate to Spanish: Good morning, how are you?', 50),
    ('Convert to bullet points: We need to buy milk, eggs, and bread.', 50),
]

for prompt, max_tok in formatting_tasks:
    r = client.messages.create(
        model='claude-haiku-4-5',  # Fastest, cheapest
        max_tokens=max_tok,
        messages=[{'role': 'user', 'content': prompt}]
    )
    print(r.content[0].text, '\n')

# Reasoning model: same quality, 50-100x more expensive, 10-30x slower

Keunggulan Model Piawai: Aplikasi Berkependaman Rendah

Aplikasi masa nyata — bot sembang, pelengkapan automatik dan bantuan langsung — tidak boleh menerima masa respons 30-60 saat. Model piawai memberikan respons dalam 1-5 saat. Gunakannya untuk interaksi masa nyata yang berhadapan dengan pengguna.

import anthropic
import time

client = anthropic.Anthropic(api_key='sk-ant-...')

def latency_comparison(question):
    # Standard model: fast for real-time use
    start = time.time()
    r1 = client.messages.create(
        model='claude-haiku-4-5',
        max_tokens=200,
        messages=[{'role': 'user', 'content': question}]
    )
    t_standard = time.time() - start

    # Reasoning model: accurate but slow
    start = time.time()
    r2 = client.messages.create(
        model='claude-opus-4-5',
        max_tokens=5000,
        thinking={'type': 'enabled', 'budget_tokens': 3000},
        messages=[{'role': 'user', 'content': question}]
    )
    t_reasoning = time.time() - start

    print(f'Standard: {t_standard:.1f}s | Reasoning: {t_reasoning:.1f}s')

latency_comparison('What does API stand for?')

Masalah Penaakulan Kabur

Sesetengah masalah adalah kabur — jawapan yang betul bergantung pada andaian yang tidak dinyatakan. Model penaakulan mengendalikan masalah ini dengan lebih baik berbanding model piawai kerana model ini meneroka beberapa tafsiran secara dalaman dan memilih tafsiran yang paling kukuh untuk dipertahankan.

import anthropic

client = anthropic.Anthropic(api_key='sk-ant-...')

# Ambiguous reasoning: reasoning model handles this much better
ambiguous_prompt = (
    'Alice, Bob, and Carol are in a room. Alice says Bob is lying. '
    'Bob says Carol is lying. Carol says both Alice and Bob are lying. '
    'Who, if anyone, is telling the truth? '
    'Explain all possible consistent interpretations.'
)

# Reasoning model explores the logical space
response = client.messages.create(
    model='claude-opus-4-5',
    max_tokens=8000,
    thinking={'type': 'enabled', 'budget_tokens': 6000},
    messages=[{'role': 'user', 'content': ambiguous_prompt}]
)
print(next(b.text for b in response.content if b.type == 'text')[:400])

Kerangka Keputusan: Model yang Patut Digunakan

Pepohon keputusan praktikal untuk memilih antara model piawai dan model penaakulan:

  • Adakah masalah itu kompleks secara matematik atau memerlukan logik berbilang langkah? → Penaakulan
  • Adakah tugas itu memerlukan penilaian terhadap pertukaran kepentingan dengan banyak pemboleh ubah? → Penaakulan
  • Adakah tugas itu mengingat fakta, meringkaskan atau menterjemah? → Piawai
  • Adakah tugas itu memerlukan masa respons kurang daripada 2 saat? → Piawai
  • Adakah kos setiap pertanyaan penting pada skala besar? → Piawai (kecuali jurang kualitinya besar)
  • Adakah ketepatan untuk kes pinggiran yang sukar penting (perubatan, undang-undang, kewangan)? → Penaakulan

Penghalaan Hibrid: Kelebihan Kedua-duanya

Dalam sistem sebenar, gunakan lapisan penghalaan yang mengelaskan pertanyaan dan mengarahkannya kepada tahap model yang sesuai. Pertanyaan mudah dihantar kepada model yang pantas dan murah; pertanyaan kompleks dinaikkan kepada model penaakulan.

import anthropic

client = anthropic.Anthropic(api_key='sk-ant-...')

def classify_complexity(query):
    prompt = (
        f'Classify this query as SIMPLE or COMPLEX:\n'
        f'SIMPLE: factual, formatting, translation, short Q&A\n'
        f'COMPLEX: multi-step reasoning, analysis, code design, math\n\n'
        f'Query: {query}\n\n'
        f'Reply with only SIMPLE or COMPLEX.'
    )
    r = client.messages.create(
        model='claude-haiku-4-5',
        max_tokens=10,
        messages=[{'role': 'user', 'content': prompt}]
    )
    return r.content[0].text.strip()

def smart_query(query):
    complexity = classify_complexity(query)
    if complexity == 'SIMPLE':
        model, thinking = 'claude-haiku-4-5', None
    else:
        model = 'claude-opus-4-5'
        thinking = {'type': 'enabled', 'budget_tokens': 8000}

    kwargs = {'model': model, 'max_tokens': 2048, 'messages': [{'role': 'user', 'content': query}]}
    if thinking:
        kwargs['thinking'] = thinking
        kwargs['max_tokens'] = 10000

    r = client.messages.create(**kwargs)
    print(f'Used: {model} ({complexity})')
    return r.content[-1].text

Menilai Bila Penaakulan Membantu

Jangan menganggap penaakulan sentiasa membantu. Ukur prestasinya. Bandingkan ketepatan model piawai dengan model penaakulan untuk jenis tugas khusus anda menggunakan set penilaian berlabel.

import anthropic

client = anthropic.Anthropic(api_key='sk-ant-...')

def compare_models_on_task(task_examples, metric_fn):
    results = {'standard': [], 'reasoning': []}

    for ex in task_examples:
        # Standard model
        r_std = client.messages.create(
            model='claude-haiku-4-5',
            max_tokens=200,
            messages=[{'role': 'user', 'content': ex.question}]
        )
        results['standard'].append(
            metric_fn(ex.answer, r_std.content[0].text)
        )

        # Reasoning model
        r_rsn = client.messages.create(
            model='claude-opus-4-5',
            max_tokens=8000,
            thinking={'type': 'enabled', 'budget_tokens': 5000},
            messages=[{'role': 'user', 'content': ex.question}]
        )
        ans = next(b.text for b in r_rsn.content if b.type == 'text')
        results['reasoning'].append(metric_fn(ex.answer, ans))

    for model, scores in results.items():
        avg = sum(scores) / len(scores)
        print(f'{model}: {avg:.1%}')
    return results

Semakan Pengetahuan: Penghalaan Tugas

Jenis tugas manakah yang paling kurang berkemungkinan (LEAST) mendapat manfaat daripada model penaakulan berbanding model piawai?

Imbas Kembali: Bila Menggunakan Model Penaakulan berbanding Model Piawai

Gunakan model penaakulan untuk matematik berbilang langkah, pengekodan algoritma yang kompleks, perancangan strategik, masalah logik kabur dan keputusan penting apabila ketepatan lebih utama daripada kos. Gunakan model piawai untuk soal jawab mudah, pemformatan teks, terjemahan, peringkasan dan semua aplikasi masa nyata yang sensitif terhadap kependaman. Dalam sistem sebenar, bina lapisan penghalaan yang mengelaskan kerumitan pertanyaan dan mengarahkan setiap permintaan kepada tahap model yang sesuai. Sentiasa ukur sama ada penaakulan benar-benar meningkatkan ketepatan untuk tugas khusus anda sebelum membayar kos tambahan 20-100x.

Percuma untuk bermula

Pelajari Kejuruteraan Arahan AI dengan tutor kecerdasan buatan — percuma

Tulis dan jalankan kod sebenar dalam pelayar anda, dapatkan bantuan segera daripada tutor kecerdasan buatan yang tersedia 24/7, dan sambung semula dari tempat anda berhenti di web atau dalam aplikasi.

Kursus
53
Pelajaran
199

Soalan Lazim

Adakah pelajaran “Bila Perlu Menggunakan Model Penaakulan berbanding Model Standard” percuma?

Ya — sebanyak 3 pelajaran dalam laluan pembelajaran Kejuruteraan Arahan AI, termasuk “Bila Perlu Menggunakan Model Penaakulan berbanding Model Standard”, boleh dibaca sepenuhnya secara percuma di web ini. Selepas itu, CoddyKit PRO membuka akses kepada semua pelajaran, serta latihan interaktif dengan penyunting kod terbina dalam dan tutor kecerdasan buatan yang tersedia 24/7. Kursus Kejuruteraan Arahan AI merangkumi sejumlah 4 pelajaran.

Apakah yang akan saya pelajari dalam “Bila Perlu Menggunakan Model Penaakulan berbanding Model Standard”?

Jenis masalah yang mendapat manfaat daripada pemikiran lanjutan: matematik, kod dan logik berbilang langkah. Anda berlatih Kejuruteraan Arahan AI menggunakan kod praktikal yang dijalankan terus dalam pelayar, manakala tutor kecerdasan buatan 24/7 menjawab soalan anda semasa anda mengikuti pelajaran.

Adakah saya memerlukan pengalaman untuk memulakan Kejuruteraan Arahan AI?

Tiada pengalaman terdahulu diperlukan. Pembelajaran Kejuruteraan Arahan AI di CoddyKit disusun untuk pelajar daripada peringkat pemula hingga lanjutan, jadi anda boleh bermula di sini atau dari awal dan belajar mengikut kadar anda sendiri. Ini ialah pelajaran 3 daripada 4.

Berapa lamakah pelajaran “Bila Perlu Menggunakan Model Penaakulan berbanding Model Standard” diambil?

Kebanyakan pelajaran CoddyKit mengambil masa kira-kira 5–10 minit. Setiap pelajaran ringkas dan interaktif, jadi anda boleh membuat kemajuan secara berterusan dan menyambung tepat dari tempat anda berhenti di web atau aplikasi.

Bolehkah saya menulis dan menjalankan kod dalam pelajaran Kejuruteraan Arahan AI ini?

Ya. Setiap pelajaran Kejuruteraan Arahan AI menyertakan penyunting kod terbina dalam, jadi anda boleh menulis dan menjalankan kod sebenar terus dalam pelayar serta menerima maklum balas kecerdasan buatan serta-merta — tanpa memerlukan persediaan setempat.

Semua pelajaran dalam kursus ini

  1. Perbezaan Model Penaakulan
  2. Gesaan Berkesan untuk Pemikiran Lanjutan
  3. Bila Perlu Menggunakan Model Penaakulan berbanding Model Standard
  4. Pertukaran Kos dan Kependaman
← Kembali ke Kejuruteraan Arahan AI