AI Prompt Engineering · Pelajaran

Kapan Pemberian Prompt Sudah Cukup

Pertukaran antara biaya dan fleksibilitas.

Kapan Pemberian Prompt Sudah Cukup adalah pelajaran AI Prompt Engineering gratis di CoddyKit. Ini adalah pelajaran 1 dari 4. Kamu bisa membaca pelajaran lengkapnya di bawah secara gratis — lalu praktikkan langsung di browser dengan editor kode bawaan dan tutor AI 24/7. Ini adalah bagian dari jalur belajar AI Prompt Engineering, dan progresmu tersinkronisasi di web dan aplikasi CoddyKit. Kursus AI Prompt Engineering mencakup 4 pelajaran total.

Bawaan Seharusnya adalah Pemberian Perintah

Sebelum memilih penyetelan halus, perlakukan pemberian perintah sebagai hipotesis nol. Model mutakhir terdepan memiliki kemampuan laten yang cukup sehingga sebagian besar tugas merupakan masalah pengambilan dan pemberian instruksi, bukan masalah pembaruan bobot.

Kesalahan mahal yang dilakukan tim adalah langsung menjalankan pelatihan ketika perintah yang terstruktur dengan baik, beberapa contoh, dan akses alat sebenarnya dapat menutup kesenjangan tanpa biaya pelatihan marginal. Penyetelan halus hanya dibenarkan jika pemberian perintah terbukti mencapai batas.

Pemberian perintah mengubah setiap permintaan, sedangkan penyetelan halus mengubah model
Pemberian perintah dapat dibalik dalam hitungan detik; titik pemeriksaan yang telah disetel adalah artefak yang mengikat
Mulailah dengan murah, lakukan eskalasi hanya berdasarkan bukti

Tiga Sumbu Biaya

Bandingkan pendekatan berdasarkan tiga sumbu biaya yang independen, bukan hanya jumlah uang:

Biaya iterasi - seberapa cepat perilaku dapat diubah? Pemberian perintah: menit. Penyetelan halus: berjam-jam hingga berhari-hari per siklus.
Biaya inferensi - pemberian perintah membayar per token untuk instruksi dan contoh yang panjang pada setiap panggilan; model yang telah disetel dapat memasukkan perilaku tersebut ke dalam bobot dan memperpendek perintah.
Biaya pemeliharaan - perintah tersimpan dalam kendali sumber dan dapat diaudit; titik pemeriksaan harus disetel ulang setiap kali model dasar tidak lagi digunakan.

Pemberian perintah unggul dalam iterasi dan pemeliharaan; penyetelan halus dapat unggul dalam biaya inferensi pada volume tinggi.

Mengukur Titik Impas

Argumen biaya inferensi untuk penyetelan hanya berlaku di atas ambang volume tertentu. Modelkan titik peralihannya secara eksplisit: instruksi dengan beberapa contoh yang panjang dan menambahkan 2.000 token masukan per panggilan memiliki biaya berulang; model yang disetel menyebarkan biaya pelatihan ke seluruh volume.

Jika lalu lintas Anda berada di bawah titik impas, instruksi dengan beberapa contoh jelas lebih murah dan lebih fleksibel.

# Rough break-even between long-prompt vs fine-tune
def breakeven_calls(train_cost_usd, extra_input_tokens, price_per_1k_input):
    extra_cost_per_call = (extra_input_tokens / 1000.0) * price_per_1k_input
    if extra_cost_per_call == 0:
        return float('inf')
    return train_cost_usd / extra_cost_per_call

# e.g. $80 train run, 2000 extra prompt tokens, $0.003/1k
print(breakeven_calls(80.0, 2000, 0.003))  # ~13.3M calls before tuning pays off

Fleksibilitas Adalah Aset Utama

Argumen terkuat untuk pemberian instruksi adalah opsionalitas dalam kondisi tidak pasti. Persyaratan berubah: kasus khusus baru, perubahan kebijakan, atau bidang keluaran baru. Dengan pemberian instruksi, Anda cukup memperbaiki teks; dengan model yang disetel, Anda harus mengumpulkan ulang data dan melatih ulang.

Ketika definisi tugas masih berubah—produk masih dalam tahap awal, spesifikasi ambigu, atau pemangku kepentingan sering berubah—pemberian instruksi hampir selalu merupakan pilihan yang tepat. Kunci bobot model hanya setelah target tidak lagi berubah.

Kemampuan yang Sudah Dicakup oleh Pemberian Instruksi

Banyak masalah yang terasa memerlukan penyetelan sebenarnya dapat diselesaikan dengan teknik di sisi instruksi:

Kepatuhan terhadap format - keluaran terstruktur / batasan skema JSON, bukan pelatihan
Nuansa domain - blok contoh gaya ditambah deskripsi suara yang eksplisit
Kedalaman penalaran - penguraian, rantai pemikiran, atau langkah perencanaan
Kesenjangan pengetahuan - pengambilan (RAG) menyisipkan fakta; penyetelan menanamkan fakta yang cepat usang

Gunakan penyetelan hanya untuk hal yang secara struktural tidak dapat dilakukan oleh pemberian instruksi: pemadatan instruksi yang sensitif terhadap latensi, format yang sangat khas, atau perilaku yang tetap ditolak model meskipun diberi instruksi kuat.

RAG vs Penyetelan untuk Pengetahuan

Kekeliruan yang umum terjadi: tim melakukan penyetelan untuk menyisipkan pengetahuan, padahal pengetahuan itu seharusnya diambil. Penyetelan buruk untuk mengajarkan fakta—prosesnya lossy, mahal untuk diperbarui, dan rentan menghasilkan interpolasi halusinatif di antara contoh pelatihan.

Heuristik: jika kesenjangannya adalah apa yang diketahui model, gunakan pengambilan. Jika kesenjangannya adalah bagaimana model berperilaku, pertimbangkan penyetelan. Pengetahuan berubah setiap hari; perilaku jarang berubah.

# Knowledge -> retrieve at prompt time, do not bake into weights
def build_prompt(user_q, retriever):
    docs = retriever.search(user_q, k=5)
    context = '\n\n'.join(d.text for d in docs)
    return (
        'Answer using ONLY the context. Cite doc ids.\n'
        '<context>\n' + context + '\n</context>\n'
        '<question>' + user_q + '</question>'
    )

Tangga Optimasi Instruksi

Sebelum menyatakan pemberian instruksi tidak memadai, tuntaskan seluruh tangga. Sebagian besar tim menyerah pada anak tangga kedua:

Anak tangga 1: instruksi yang jelas + peran + kontrak keluaran yang eksplisit
Anak tangga 2: contoh dengan beberapa contoh yang mencakup kasus khusus
Anak tangga 3: penguraian menjadi beberapa panggilan berantai
Anak tangga 4: penggunaan alat / pengambilan untuk mengalihkan pengetahuan dan komputasi
Anak tangga 5: kritik diri atau beberapa tahap pemeriksaan

Penyetelan baru dapat dibenarkan setelah anak tangga 1–5 dituntaskan dengan kumpulan evaluasi yang disisihkan.

Latensi dan Penalti Panjang Instruksi

Instruksi yang panjang membutuhkan biaya lebih dari sekadar uang—instruksi tersebut membutuhkan waktu. Token masukan mendominasi waktu hingga token pertama pada banyak tumpukan penyajian. Instruksi yang terdiri dari 4.000 token, termasuk arahan dan contoh, menimbulkan tambahan latensi yang terukur pada setiap panggilan.

Inilah satu-satunya kondisi ketika pemberian instruksi benar-benar kalah pada skala besar: saat Anda memerlukan perilaku dari instruksi panjang dan respons di bawah 100 milidetik, menyuling perilaku tersebut ke dalam model kecil yang disetel adalah langkah yang tepat. Namun, pastikan anggaran latensinya benar-benar nyata, bukan sekadar asumsi.

Total Biaya Kepemilikan

Tentukan TCO selama masa pakai artefak, bukan berdasarkan tagihan pertama. Titik pemeriksaan yang disetel membawa biaya tersembunyi yang berulang:

Penyetelan ulang ketika penyedia menghentikan dukungan model dasar (sering kali setiap 6–12 bulan)
Alur data dan proses pelabelan yang harus terus Anda jalankan
Infrastruktur evaluasi untuk mendeteksi kemunduran setelah setiap penyetelan ulang
Pembuatan versi, pengembalian versi, dan kompleksitas penyajian A/B

TCO pemberian instruksi sebagian besar hanya berupa berkas teks dan kumpulan evaluasi. Bagi tim yang belum matang dalam operasi ML, perbedaan ini saja membuat pemberian instruksi tetap unggul jauh lebih lama daripada yang diperkirakan.

Daftar Periksa Keputusan

Pemberian instruksi sudah memadai jika Anda dapat menjawab YES untuk sebagian besar pertanyaan berikut:

Apakah spesifikasi tugas masih berubah dari bulan ke bulan?
Apakah volume berada di bawah ambang titik impas yang telah Anda hitung?
Apakah kesenjangannya berupa pengetahuan (yang dapat diambil), bukan perilaku?
Apakah evaluasi yang disisihkan menunjukkan bahwa pemberian instruksi mencapai kualitas yang dapat diterima setelah Anda menuntaskan tangga?
Apakah anggaran latensi Anda cukup longgar untuk panjang instruksi tersebut?
Apakah tim Anda tidak memiliki alur penyetelan + evaluasi yang terpelihara?

Tiga jawaban YES atau lebih berarti tetap gunakan pemberian instruksi dan tinjau kembali hanya ketika jawabannya berubah.

Ringkasan Perbandingan yang Dikerjakan

Kodekan keputusan sebagai data, bukan berdasarkan perasaan. Fungsi penilaian sederhana memaksa tim menyatakan asumsi (volume, latensi, stabilitas spesifikasi) secara eksplisit dan membuat rekomendasi dapat diaudit di kemudian hari.

def recommend(volume_per_month, breakeven, spec_stable, latency_critical):
    score = 0
    if volume_per_month < breakeven: score += 2   # favor prompting
    if not spec_stable: score += 2                 # spec moving -> prompt
    if latency_critical and spec_stable: score -= 2  # tune for latency
    return 'PROMPTING' if score >= 1 else 'CONSIDER_FINE_TUNING'

print(recommend(500_000, 13_000_000, spec_stable=False, latency_critical=False))
# PROMPTING

Pemeriksaan Singkat

Sebuah tim ingin model menjawab pertanyaan tentang dokumen yang diperbarui setiap hari. Pendekatan apa yang paling sesuai, dan mengapa?

Rangkuman

Pemberian instruksi adalah pilihan bawaan; penyetelan adalah eskalasi. Tetap gunakan pemberian instruksi selama spesifikasi masih berubah, volume berada di bawah titik impas, dan kesenjangannya berupa pengetahuan, bukan perilaku.

Bandingkan biaya iterasi, inferensi, dan pemeliharaan—bukan hanya jumlah uang
Hitung titik impas volume sebelum menganggap penyetelan menghemat biaya
Tuntaskan seluruh tangga optimasi instruksi sebelum menyatakan pemberian instruksi tidak memadai
Ambil pengetahuan; simpan penyetelan untuk perilaku yang sulit diubah atau pemadatan instruksi yang didorong oleh latensi
Nilai berdasarkan TCO selama masa pakai, termasuk penghentian dukungan model dasar

Pertanyaan yang Sering Diajukan

Apakah pelajaran “Kapan Pemberian Prompt Sudah Cukup” gratis?

Ya — teks lengkap “Kapan Pemberian Prompt Sudah Cukup” gratis dibaca di sini di web. Untuk praktiknya secara interaktif (editor kode bawaan dan tutor AI 24/7) dan buka sisa kursus AI Prompt Engineering, upgrade ke CoddyKit PRO. Kursus AI Prompt Engineering mencakup 4 pelajaran total.

Apa yang akan aku pelajari di “Kapan Pemberian Prompt Sudah Cukup”?

Pertukaran antara biaya dan fleksibilitas. Kamu berlatih AI Prompt Engineering dengan kode praktik yang langsung kamu jalankan di browser, dan tutor AI 24/7 menjawab pertanyaanmu saat kamu mengerjakan pelajaran ini.

Apakah aku perlu pengalaman untuk memulai AI Prompt Engineering?

Tidak diperlukan pengalaman sebelumnya. AI Prompt Engineering di CoddyKit dirancang untuk pemula hingga pelajar tingkat lanjut, jadi kamu bisa memulai di sini atau dari awal dan belajar sesuai kecepatan kamu sendiri. Ini adalah pelajaran 1 dari 4.

Berapa lama pelajaran “Kapan Pemberian Prompt Sudah Cukup” memakan waktu?

Sebagian besar pelajaran CoddyKit memakan waktu sekitar 5–10 menit. Setiap pelajaran ringkas dan interaktif, jadi kamu membuat kemajuan stabil dan melanjutkan dari tempat kamu tinggalkan di web dan aplikasi.

Bisakah aku menulis dan menjalankan kode dalam pelajaran AI Prompt Engineering ini?

Ya. Setiap pelajaran AI Prompt Engineering menyertakan editor kode bawaan, jadi kamu menulis dan menjalankan kode nyata langsung di browser dan mendapatkan umpan balik AI instan — tidak diperlukan penyiapan lokal.

Semua pelajaran dalam kursus ini

← Kembali ke AI Prompt Engineering