AI Prompt Engineering · Pelajaran

Pemberian Prompt Chain-of-Thought

Memancing penalaran langkah demi langkah.

Pemberian Prompt Chain-of-Thought adalah pelajaran AI Prompt Engineering gratis di CoddyKit. Ini adalah pelajaran 1 dari 4. Kamu bisa membaca pelajaran lengkapnya di bawah secara gratis — lalu praktikkan langsung di browser dengan editor kode bawaan dan tutor AI 24/7. Ini adalah bagian dari jalur belajar AI Prompt Engineering, dan progresmu tersinkronisasi di web dan aplikasi CoddyKit. Kursus AI Prompt Engineering mencakup 4 pelajaran total.

Penalaran sebagai Anggaran Token

Prompting rantai pemikiran (CoT) memunculkan langkah-langkah penalaran antara sebelum jawaban akhir. Inti pemahamannya: transformer melakukan komputasi dalam jumlah tetap untuk setiap token, sehingga mengizinkan model menghasilkan token penalaran secara efektif memberinya lebih banyak komputasi serial untuk mencapai jawaban.

Memaksa jawaban segera membatasi komputasi yang tersedia untuk masalah sulit; CoT menghapus batas tersebut dengan menyebarkan komputasi ke seluruh token yang dihasilkan.

# Direct: model must compute everything before the first token
DIRECT = 'Q: ' + q + '\nA:'
# CoT: model can use tokens as scratch space
COT = 'Q: ' + q + '\nA: Let us reason step by step.'

CoT Tanpa Contoh

Frasa pemicu terkenal Mari kita berpikir langkah demi langkah (Kojima et al., 2022) memunculkan penalaran dengan tanpa contoh. Frasa ini berhasil karena model yang disetel dengan instruksi telah menginternalisasi pola bahwa frasa semacam itu mendahului solusi yang dikerjakan.

CoT tanpa contoh murah dan ternyata efektif, tetapi kualitas penalarannya lebih sulit dikendalikan dibandingkan CoT few-shot dengan contoh yang dikurasi.

def zero_shot_cot(question):
    stage1 = llm('Q: ' + question + '\nA: Let us think step by step.')
    # Extract the final answer in a second, constrained call
    stage2 = llm(stage1 + '\nTherefore, the final answer is:')
    return parse_answer(stage2)

CoT Few-Shot

CoT few-shot (Wei et al., 2022) menyediakan contoh yang mencakup jejak penalaran, bukan hanya jawaban. Pendekatan ini mengajarkan cara bernalar sekaligus format yang diinginkan, sehingga menghasilkan rantai yang lebih andal dan konsisten daripada pendekatan tanpa contoh.

Kurasi contoh yang gaya, tingkat kerincian, dan panjang penalarannya sesuai dengan hal yang ingin Anda tiru. Penalaran contoh yang tidak konsisten menghasilkan rantai yang tidak konsisten.

FS_COT = (
    'Q: Roger has 5 balls, buys 2 cans of 3. How many balls?\n'
    'A: 5 + 2*3 = 5 + 6 = 11. The answer is 11.\n\n'
    'Q: ' + question + '\nA:'
)

Memisahkan Penalaran dari Jawaban

Selalu buat jawaban akhir dapat diekstrak oleh mesin: akhiri rantai dengan penanda tetap (misalnya Jawabannya adalah X atau bidang JSON). Mengurai rantai bebas sangat rapuh.

Untuk produk yang digunakan pengguna, Anda dapat menyembunyikan rantai dan hanya menampilkan jawaban yang telah diurai, sementara penalaran disimpan sebagai catatan kerja internal.

import re

def extract(chain):
    m = re.search(r'[Tt]he answer is\s*(.+?)[.\n]', chain)
    if not m:
        raise ValueError('no answer marker found')
    return m.group(1).strip()

Kesetiaan Tidak Dijamin

Catatan penting: rantai yang diungkapkan secara verbal mungkin tidak mencerminkan komputasi sebenarnya dari model. Berbagai penelitian menunjukkan bahwa model dapat menghasilkan penalaran yang terdengar masuk akal, tetapi sebenarnya merasionalisasi setelah fakta suatu jawaban yang didorong oleh bias tersembunyi (misalnya, posisi suatu pilihan).

Jangan menganggap CoT sebagai penjelasan yang setia atau rekam jejak audit. CoT meningkatkan akurasi pada banyak tugas, tetapi bukan jendela menuju mekanisme aktual model.

# Faithfulness probe: perturb an irrelevant cue (e.g., always make
# option A correct in the few-shot). If the chain still 'justifies'
# choosing A, the stated reasoning is unfaithful to the real cause.

Pengaturan Dekode untuk CoT

Untuk satu rantai deterministik, temperatur rendah mengurangi varians. Namun, CoT sangat cocok dipadukan dengan sampling: pada temperatur sedang, Anda dapat mengambil beberapa rantai yang beragam dan menggabungkannya (dibahas dalam konsistensi mandiri).

Hindari dekode greedy jika Anda bermaksud mengambil sampel dari beberapa jalur; greedy menghilangkan keberagaman dan menggagalkan penggabungan.

single = llm(COT, temperature=0.0)            # one stable chain
paths  = [llm(COT, temperature=0.7) for _ in range(10)]  # diverse

Penalaran Terstruktur dan Tabular

Untuk masalah kompleks, berikan struktur pada rantai: langkah bernomor, tabel keadaan, atau pemisahan rencanakan-kemudian-jalankan. Struktur mengurangi langkah yang terlewat dan membuat keadaan antara dapat diverifikasi.

Pendekatan berbantuan program melangkah lebih jauh dengan menghasilkan kode yang dapat dieksekusi sebagai penalaran dan mengalihkan perhitungan aritmetika ke interpreter, sehingga menghilangkan seluruh kelas kesalahan komputasi.

PAL = (
    'Solve by writing Python. Q: ' + q + '\n'
    'A:\ndef solve():\n'
    '    # the model writes code here, then we exec() it\n'
)
# Offload arithmetic to a deterministic interpreter

Panjang, Biaya, dan Latensi

CoT memperbanyak token keluaran sehingga meningkatkan biaya dan latensi. Untuk soal mudah, beban tambahan ini tidak memberi manfaat; untuk soal sulit, CoT sangat penting. Pola yang pragmatis adalah penalaran adaptif: picu CoT hanya ketika perkiraan tingkat kesulitan yang murah atau jawaban langsung dengan tingkat keyakinan rendah mengindikasikannya.

Pada model penalaran dengan pemikiran bawaan, Anda mengatur anggaran upaya penalaran, bukan meminta model membuat rantai secara langsung.

def adaptive(question):
    direct = llm('Q: ' + question + '\nA (answer only):', temperature=0)
    if confidence(direct) > 0.85:
        return direct
    return zero_shot_cot(question)  # escalate to reasoning only if needed

CoT pada Model yang Secara Alami Menggunakan Penalaran

Model penalaran modern secara otomatis melakukan pertimbangan internal yang panjang. Memasukkan instruksi bertele-tele seperti Mari kita berpikir langkah demi langkah dapat menjadi berlebihan atau bahkan kontraproduktif, karena mengganggu proses berpikir yang telah dilatih.

Untuk model tersebut, utamakan pernyataan tugas yang ringkas dan persyaratan format jawaban yang eksplisit, lalu sesuaikan parameter upaya penalaran alih-alih menyusun rantai secara manual.

# Reasoning-native model: let it think, just constrain the output
resp = reasoning_model(
    prompt=question,
    reasoning_effort='medium',
    output_format='Final answer on the last line as: ANSWER=<x>'
)

Saat CoT Menjadi Bumerang

CoT dapat merugikan pada tugas ketika penalaran berlebihan mengesampingkan intuisi yang benar, pada pencocokan pola sederhana, atau ketika pengungkapan langkah berpikir menimbulkan kesalahan yang tidak akan dibuat model secara implisit. CoT juga memperluas permukaan serangan untuk injeksi perintah di dalam rantai yang panjang.

Bandingkan CoT dengan jawaban langsung untuk setiap tugas; jangan pernah menganggap bahwa perintah penalaran selalu bermanfaat.

def should_use_cot(task_acc_cot, task_acc_direct, cot_cost_mult):
    gain = task_acc_cot - task_acc_direct
    # Only adopt CoT if accuracy gain justifies the token multiplier
    return gain > MIN_GAIN and gain / cot_cost_mult > MIN_EFFICIENCY

Menerapkan CoT di Lingkungan Produksi

CoT untuk produksi: siapkan contoh yang konsisten (atau andalkan penalaran bawaan model), wajibkan penanda jawaban yang dapat diuraikan, ambil sampel beberapa rantai untuk soal sulit, validasi aritmetika melalui eksekusi kode jika memungkinkan, dan aktifkan penalaran berdasarkan perkiraan tingkat kesulitan untuk mengendalikan biaya.

Catat rantai untuk analisis luring, tetapi jangan pernah menampilkannya sebagai penjelasan yang menjadi sumber kebenaran.

def production_solve(q):
    if easy(q):
        return extract(llm(DIRECT_PROMPT.format(q=q), temperature=0))
    chains = [llm(FS_COT.format(q=q), temperature=0.7) for _ in range(8)]
    return majority_vote([extract(c) for c in chains])

Pemeriksaan Singkat

Jelaskan mengapa CoT membantu dan kapan CoT tidak membantu.

Rangkuman

Hal-hal penting:

CoT menukar token tambahan dengan komputasi serial tambahan; CoT membantu tugas bertahap, bukan tugas sepele.
CoT tanpa contoh menggunakan frasa pemicu; CoT dengan beberapa contoh menyediakan contoh penalaran yang konsisten.
Selalu akhiri dengan penanda jawaban yang dapat diekstrak oleh mesin; rantai bukanlah penjelasan yang sepenuhnya mencerminkan proses sebenarnya.
Ambil sampel beberapa rantai untuk soal sulit, serahkan aritmetika kepada kode, dan aktifkan CoT berdasarkan tingkat kesulitan.
Pada model yang secara bawaan unggul dalam penalaran, utamakan perintah singkat dengan anggaran upaya penalaran daripada instruksi rantai yang panjang.

Pertanyaan yang Sering Diajukan

Apakah pelajaran “Pemberian Prompt Chain-of-Thought” gratis?

Ya — teks lengkap “Pemberian Prompt Chain-of-Thought” gratis dibaca di sini di web. Untuk praktiknya secara interaktif (editor kode bawaan dan tutor AI 24/7) dan buka sisa kursus AI Prompt Engineering, upgrade ke CoddyKit PRO. Kursus AI Prompt Engineering mencakup 4 pelajaran total.

Apa yang akan aku pelajari di “Pemberian Prompt Chain-of-Thought”?

Memancing penalaran langkah demi langkah. Kamu berlatih AI Prompt Engineering dengan kode praktik yang langsung kamu jalankan di browser, dan tutor AI 24/7 menjawab pertanyaanmu saat kamu mengerjakan pelajaran ini.

Apakah aku perlu pengalaman untuk memulai AI Prompt Engineering?

Tidak diperlukan pengalaman sebelumnya. AI Prompt Engineering di CoddyKit dirancang untuk pemula hingga pelajar tingkat lanjut, jadi kamu bisa memulai di sini atau dari awal dan belajar sesuai kecepatan kamu sendiri. Ini adalah pelajaran 1 dari 4.

Berapa lama pelajaran “Pemberian Prompt Chain-of-Thought” memakan waktu?

Sebagian besar pelajaran CoddyKit memakan waktu sekitar 5–10 menit. Setiap pelajaran ringkas dan interaktif, jadi kamu membuat kemajuan stabil dan melanjutkan dari tempat kamu tinggalkan di web dan aplikasi.

Bisakah aku menulis dan menjalankan kode dalam pelajaran AI Prompt Engineering ini?

Ya. Setiap pelajaran AI Prompt Engineering menyertakan editor kode bawaan, jadi kamu menulis dan menjalankan kode nyata langsung di browser dan mendapatkan umpan balik AI instan — tidak diperlukan penyiapan lokal.

Semua pelajaran dalam kursus ini

← Kembali ke AI Prompt Engineering