Strategi Mengurangi Halusinasi
Terapkan metode untuk meminimalkan ketidakakuratan faktual dan informasi rekaan yang dihasilkan LLM.
Strategi Mengurangi Halusinasi adalah pelajaran AI Prompt Engineering gratis di CoddyKit. Ini adalah pelajaran 2 dari 3. Kamu bisa membaca pelajaran lengkapnya di bawah secara gratis — lalu praktikkan langsung di browser dengan editor kode bawaan dan tutor AI 24/7. Ini adalah bagian dari jalur belajar AI Prompt Engineering, dan progresmu tersinkronisasi di web dan aplikasi CoddyKit. Kursus AI Prompt Engineering mencakup 3 pelajaran total.
Apa Itu Halusinasi LLM?
Selamat datang! Dalam pelajaran ini, kita akan membahas tantangan umum pada Large Language Models (LLM): halusinasi.
Halusinasi LLM terjadi ketika model menghasilkan informasi yang secara faktual salah, tidak masuk akal, atau sepenuhnya dibuat-buat, tetapi menyajikannya seolah-olah benar. Seolah-olah AI dengan yakin mengarang sesuatu!
Mengapa LLM "Berhalusinasi"
LLM dilatih untuk memprediksi kata berikutnya yang paling mungkin berdasarkan pola dalam data teks dalam jumlah besar. LLM tidak "mengetahui" fakta dalam pengertian manusia.
- Terkadang, LLM tidak memiliki informasi yang cukup atau relevan.
- LLM mungkin membuat kesimpulan melampaui data pelatihannya.
- LLM lebih mengutamakan terdengar koheren dan yakin daripada akurat secara faktual.
Memahami hal ini membantu kita merancang perintah yang lebih baik untuk memandunya.
Strategi 1: Memberi Dasar dengan Konteks
Salah satu cara paling efektif untuk mengurangi halusinasi adalah memberi dasar kepada LLM dengan informasi yang relevan. Daripada memintanya mengingat fakta dari pelatihan, berikan konteks yang diperlukan secara langsung dalam perintah Anda.
Anggaplah LLM sebagai pembaca teks yang sangat cerdas, bukan mesin pencari yang mengetahui segalanya.
Contoh: Memberikan Konteks
Berikut cara memberikan konteks tertentu kepada LLM. Model kemudian akan mendasarkan jawabannya hanya pada teks yang diberikan.
def simulate_llm_response(prompt):
print(f"LLM received prompt:\n---\n{prompt}\n---")
context = "Marie Curie was a Polish and naturalized-French physicist and chemist who conducted pioneering research on radioactivity. She was the first woman to win a Nobel Prize."
query = "Tell me about Marie Curie's nationality based on the provided text."
prompt_with_context = (
f"Context: {context}\n\n"
f"Question: {query}\n\n"
f"Answer (only use the context provided):"
)
simulate_llm_response(prompt_with_context)Strategi 2: Menginstruksikan Ketidakpastian
LLM sering terdengar yakin meskipun jawabannya salah. Anda dapat mengurangi hal ini dengan menginstruksikan model secara eksplisit untuk mengakui ketika tidak mengetahui jawabannya.
Hal ini mendorong LLM memberikan respons "tidak tahu" daripada mengarang informasi untuk mengisi kekosongan.
Contoh: Perintah Ketidakpastian
Tambahkan instruksi yang jelas seperti "Jika Anda tidak tahu, nyatakan bahwa Anda tidak memiliki cukup informasi."
def simulate_llm_response(prompt):
print(f"LLM received prompt:\n---\n{prompt}\n---")
query = "What is the capital city of the planet Mars?"
prompt_with_uncertainty = (
f"Answer the following question. If you don't know the answer, "
f"please state 'I don't know' rather than guessing or fabricating information.\n\n"
f"Question: {query}\n\n"
f"Answer:"
)
simulate_llm_response(prompt_with_uncertainty)Strategi 3: Meminta Sumber
Strategi lain yang bermanfaat adalah meminta LLM mencantumkan sumbernya atau menjelaskan proses penalarannya. Meskipun LLM mungkin tidak selalu memberikan URL yang sebenarnya, hal ini dapat:
- Memaksa model mengambil informasi dengan lebih cermat.
- Membantu Anda mengenali ketika model mengarang sesuatu, jika model tidak dapat memberikan sumber atau alur penalaran yang masuk akal.
Strategi 4: Dorong Penjelasan Langkah demi Langkah
Untuk pertanyaan yang kompleks, meminta LLM untuk "berpikir langkah demi langkah" atau "menjelaskan penalaran Anda" sebelum memberikan jawaban akhir dapat mengurangi halusinasi secara signifikan.
Hal ini memungkinkan model menguraikan masalah, yang sering menghasilkan langkah-langkah antara yang lebih akurat dan jawaban akhir yang lebih andal.
Ulangi dan Sempurnakan Perintah
Rekayasa perintah adalah proses berulang. Jika LLM berhalusinasi, jangan menyerah!
- Parafrase: Cobalah susunan kata yang berbeda untuk perintah Anda.
- Tambahkan lebih banyak konteks: Berikan informasi yang lebih spesifik.
- Tentukan format: Minta jawaban dalam format terstruktur, misalnya poin-poin atau JSON, untuk membatasi hasil.
- Gabungkan strategi: Gunakan pemberian dasar, instruksi ketidakpastian, dan pemikiran langkah demi langkah secara bersamaan.
Pemeriksaan Singkat: Memperbaiki Halusinasi
Manakah dari strategi berikut yang efektif untuk mengurangi halusinasi LLM?
Ringkasan: Mengatasi Halusinasi
Kerja bagus! Anda telah mempelajari strategi utama untuk meminimalkan halusinasi LLM:
- Pemberian Dasar: Berikan konteks yang jelas.
- Ketidakpastian: Instruksikan LLM untuk menyatakan ketika tidak mengetahui jawabannya.
- Verifikasi: Minta sumber atau penalaran.
- Langkah demi Langkah: Dorong pemikiran yang terperinci.
- Iterasi: Sempurnakan perintah Anda secara berkelanjutan.
Dengan menerapkan teknik-teknik ini, Anda dapat membuat interaksi dengan LLM menjadi lebih andal dan akurat!
Pertanyaan yang Sering Diajukan
Apakah pelajaran “Strategi Mengurangi Halusinasi” gratis?
Ya — teks lengkap “Strategi Mengurangi Halusinasi” gratis dibaca di sini di web. Untuk praktiknya secara interaktif (editor kode bawaan dan tutor AI 24/7) dan buka sisa kursus AI Prompt Engineering, upgrade ke CoddyKit PRO. Kursus AI Prompt Engineering mencakup 3 pelajaran total.
Apa yang akan aku pelajari di “Strategi Mengurangi Halusinasi”?
Terapkan metode untuk meminimalkan ketidakakuratan faktual dan informasi rekaan yang dihasilkan LLM. Kamu berlatih AI Prompt Engineering dengan kode praktik yang langsung kamu jalankan di browser, dan tutor AI 24/7 menjawab pertanyaanmu saat kamu mengerjakan pelajaran ini.
Apakah aku perlu pengalaman untuk memulai AI Prompt Engineering?
Tidak diperlukan pengalaman sebelumnya. AI Prompt Engineering di CoddyKit dirancang untuk pemula hingga pelajar tingkat lanjut, jadi kamu bisa memulai di sini atau dari awal dan belajar sesuai kecepatan kamu sendiri. Ini adalah pelajaran 2 dari 3.
Berapa lama pelajaran “Strategi Mengurangi Halusinasi” memakan waktu?
Sebagian besar pelajaran CoddyKit memakan waktu sekitar 5–10 menit. Setiap pelajaran ringkas dan interaktif, jadi kamu membuat kemajuan stabil dan melanjutkan dari tempat kamu tinggalkan di web dan aplikasi.
Bisakah aku menulis dan menjalankan kode dalam pelajaran AI Prompt Engineering ini?
Ya. Setiap pelajaran AI Prompt Engineering menyertakan editor kode bawaan, jadi kamu menulis dan menjalankan kode nyata langsung di browser dan mendapatkan umpan balik AI instan — tidak diperlukan penyiapan lokal.
Semua pelajaran dalam kursus ini
- Mengidentifikasi dan Mengurangi Bias
- Strategi Mengurangi Halusinasi
- Pertimbangan Etis dalam Pemberian Prompt