Kesalahan karena Konteks yang Hilang

Model AI mengetahui banyak hal dari data pelatihannya—tetapi tidak mengetahui apa pun tentang situasi spesifik Anda kecuali jika Anda memberitahukannya. Perintah yang mengasumsikan pengetahuan yang tidak dimiliki model akan menghasilkan respons yang secara umum benar, tetapi tidak berguna dalam situasi tertentu.

"Perbaiki kesalahan ini."—Kesalahan apa? Dalam kode apa? Apa yang saat ini dilakukan? Apa yang seharusnya dilakukan?

Model akan mengarang jawaban, alih-alih memberi tahu Anda bahwa informasinya tidak memadai. Jawaban yang dikarang tersebut hampir tidak pernah sesuai dengan kebutuhan Anda.

Kecuali Anda memberikannya, model tidak mengetahui:

• Kode, proyek, atau dokumen spesifik Anda
• Perusahaan, produk, merek, atau pelanggan Anda
• Percakapan yang Anda lakukan pada sesi sebelumnya (setiap percakapan dimulai dari awal)
• Hal yang telah Anda coba sebelumnya dan alasan kegagalannya
• Preferensi, gaya, atau standar pribadi Anda
• Latar belakang audiens Anda
• Batasan lingkungan Anda (tumpukan teknologi, anggaran, tenggat waktu)

Semua hal yang diketahui model tentang tugas Anda harus berasal dari percakapan yang sedang berlangsung.

"Perbaiki kesalahan ini" adalah contoh klasik perintah dengan konteks yang hilang. Model tidak menerima informasi tentang:

• Bahasa atau kerangka kerja yang digunakan
• Hal yang seharusnya dilakukan kode
• Hal yang sebenarnya dilakukan kode (gejalanya)
• Kesalahan atau keluaran yang keliru yang muncul
• Hal yang telah dicoba tetapi tidak berhasil

Perintah perbaikan kesalahan yang lengkap menyediakan kelima hal tersebut: "Fungsi Python ini seharusnya mengembalikan jumlah semua bilangan genap dalam sebuah daftar, tetapi mengembalikan 0 untuk [2,4,6]. Berikut kodenya: [tempel kode]. Kesalahannya adalah..."

"Lanjutkan dari bagian terakhir."—Kesalahan umum yang mengungkapkan kesalahpahaman mendasar: model tidak memiliki memori lintas sesi.

Setiap percakapan baru dimulai sepenuhnya dari awal. Model tidak dapat mengakses percakapan sebelumnya, meskipun Anda menggunakan akun atau alat yang sama. Jika konteks dari sesi sebelumnya diperlukan, Anda harus menempelkannya secara eksplisit ke percakapan saat ini.

Beberapa alat (seperti Claude Projects atau sistem memori khusus) menyediakan konteks lintas sesi, tetapi ini merupakan fitur alat tersebut, bukan kemampuan bawaan model.

Kesalahan konteks yang umum adalah menganggap model memiliki pengetahuan latar belakang implisit yang sama dengan Anda:

• "Buat agar sesuai dengan merek kami" (merek yang mana? apa pedoman mereknya?)
• "Tulis seperti yang terakhir" (model tidak dapat mengakses percakapan sebelumnya)
• "Gunakan format yang sama seperti laporan lainnya" (tempelkan format atau contoh laporan)
• "Jaga agar tetap konsisten dengan yang kita bahas" (jika ini percakapan baru, tidak ada yang telah dibahas)

Solusinya selalu sama: nyatakan hal yang implisit secara eksplisit. Jelaskan apa yang Anda anggap sudah diketahui model.

Injeksi konteks berarti menyediakan secara eksplisit informasi latar belakang yang diperlukan model untuk merespons dengan benar. Tiga pola yang dapat digunakan:

Tempelkan konten yang relevan: Sertakan kode, dokumen, surel, atau data secara langsung di dalam perintah.

Jelaskan situasinya: Rangkum latar belakang yang relevan dalam 2–5 kalimat sebelum instruksi tugas.

Nyatakan batasannya: Sebutkan lingkungan, tumpukan teknologi, audiens, dan keputusan sebelumnya yang relevan.

Injeksi konteks mengubah pengetahuan model yang bersifat umum menjadi respons yang spesifik terhadap situasi.

Untuk tugas yang kompleks, susun konteks menggunakan bagian-bagian berlabel sebelum instruksi tugas:

Tidak semua konteks memiliki nilai yang sama. Konteks yang terlalu sedikit menghasilkan keluaran umum; konteks yang terlalu banyak menenggelamkan informasi relevan dalam gangguan dan dapat mendorong instruksi tugas yang sebenarnya terlalu jauh ke bawah dalam perintah.

Atur kedalaman konteks dengan bertanya: apa yang perlu diketahui oleh pakar manusia yang cermat agar dapat mengerjakan tugas ini dengan baik?

• Sertakan: audiens, tujuan, batasan, terminologi khusus domain, dan keputusan sebelumnya yang relevan
• Jangan sertakan: latar belakang yang sudah diketahui semua orang, riwayat yang tidak relevan, dan detail yang menyimpang dari topik

Aturan praktis yang berguna: konteks harus cukup spesifik sehingga orang asing tidak dapat menulisnya untuk perusahaan atau situasi yang berbeda.

Karena model tidak memiliki memori lintas sesi, solusinya adalah pengantar konteks yang dapat digunakan kembali—blok konteks standar yang Anda tempelkan di awal setiap sesi untuk topik yang sering dibahas:

Kesalahan lain terkait konteks yang hilang adalah spesifikasi yang tidak lengkap: menyediakan sebagian konteks, tetapi tidak cukup bagi model untuk menangani kasus tepi.

Contoh: "Tulis fungsi yang menyaring pengguna berdasarkan status langganan mereka."

Bagaimana struktur datanya? Nilai status apa yang valid? Apa yang harus terjadi pada pengguna tanpa status? Apakah pencocokan harus peka huruf besar-kecil? Apa yang harus dikembalikan jika daftarnya kosong?

Model akan membuat asumsi untuk semua hal tersebut. Asumsi itu mungkin keliru. Spesifikasi lengkap mengantisipasi kasus tepi secara eksplisit.

Untuk perintah terkait kode, set konteks minimum menghasilkan keluaran yang dapat diandalkan dan berguna:

• Bahasa dan versi: Python 3.11, TypeScript 5.0
• Kerangka kerja: FastAPI, Next.js, React Native
• Hal yang harus dilakukan kode: input dan output yang diharapkan
• Kesalahan yang saat ini terjadi: gejala dan pesan kesalahan
• Hal yang telah dicoba: mencegah pengulangan pendekatan yang sudah gagal
• Batasan: tidak boleh menggunakan dependensi eksternal, harus berjalan kurang dari 50 md

Set minimum ini menghilangkan penyebab paling umum saran kode AI yang secara umum benar, tetapi keliru untuk konteks spesifik Anda.

Seorang pengembang mengirim perintah berikut: "Bantu saya mengoptimalkan ini." tanpa informasi lain. Apa deskripsi paling akurat tentang hal yang akan terjadi?

Kesalahan karena konteks yang hilang terjadi ketika sebuah perintah mengasumsikan pengetahuan yang tidak dimiliki model—kode Anda, merek Anda, sesi sebelumnya, dan keputusan tim Anda. Model mengisi kekosongan tersebut dengan asumsi, sehingga menghasilkan keluaran yang umum atau keliru.

Solusinya adalah injeksi konteks: tempelkan konten yang relevan, jelaskan situasinya, dan nyatakan batasan secara eksplisit. Untuk tugas yang berulang, pengantar konteks yang dapat digunakan kembali menyelesaikan masalah memori lintas sesi. Untuk tugas kode, selalu sertakan bahasa, kerangka kerja, input/output, perilaku saat ini, dan batasan.

Pada pelajaran terakhir dalam kursus ini, Anda akan menggabungkan semua pelajaran tersebut ke dalam daftar periksa sistematis untuk menelusuri kesalahan perintah.