Guardrail dan Evaluasi RAG
Blokir output yang buruk dan ukur kualitas pengambilan.
Guardrail dan Evaluasi RAG adalah pelajaran MLOps Academy gratis di CoddyKit. Ini adalah pelajaran 4 dari 4. Kamu bisa membaca pelajaran lengkapnya di bawah secara gratis — lalu praktikkan langsung di browser dengan editor kode bawaan dan tutor AI 24/7. Ini adalah bagian dari jalur belajar MLOps Academy, dan progresmu tersinkronisasi di web dan aplikasi CoddyKit. Kursus MLOps Academy mencakup 4 pelajaran total.
LLM Membutuhkan Pagar Pengaman
Jika dibiarkan, model dapat membocorkan data atau keluar dari topik. Pagar pengaman adalah pemeriksaan di sekitar model yang menjaga input dan output tetap dalam batas aman. 🛡️
Validasi Input Terlebih Dahulu
Sebelum memanggil model, periksa pesan pengguna untuk mendeteksi injeksi prompt atau konten terlarang. Pagar input mencegah permintaan buruk mencapai LLM.
Periksa Juga Output
Setelah pembuatan teks, periksa jawaban untuk mendeteksi toksisitas, rahasia, atau format yang salah. Pagar output memblokir atau menulis ulang teks yang tidak aman sebelum pengguna melihatnya.
if contains_pii(answer):
answer = "Sorry, I cannot share that."Terapkan Struktur
Saat Anda memerlukan JSON, validasikan JSON tersebut berdasarkan skema dan ulangi jika gagal. Pagar skema mengubah teks bebas yang tidak stabil menjadi output yang andal dan dapat diurai.
from pydantic import BaseModel
class Reply(BaseModel):
answer: str
confidence: floatPustaka Pagar Pengaman
Alat seperti Guardrails AI dan NeMo Guardrails menggabungkan pemeriksaan ini. Sebuah pustaka menyediakan validator siap pakai sehingga Anda tidak perlu membuat setiap aturan dari awal.
Sekarang Kenali RAG
Banyak aplikasi LLM mengambil dokumen dan memasukkannya ke model. Pola RAG ini, yaitu pembuatan berbantuan pengambilan, mendasarkan jawaban pada data Anda sendiri.
Dua Hal Dapat Bermasalah
RAG dapat gagal saat pengambilan atau saat pembuatan jawaban. Karena itu, evaluasilah pengambil dan jawaban secara terpisah, sebab memperbaiki salah satunya tidak akan memperbaiki yang lain.
Nilai Pengambilan
Tanyakan apakah potongan yang diambil benar-benar memuat jawabannya. Recall konteks mengukur apakah informasi yang tepat berhasil masuk ke dalam prompt.
Nilai Landasan
Bahkan dengan konteks yang baik, model dapat mengarang detail. Kesetiaan memeriksa apakah setiap klaim dalam jawaban didukung oleh teks yang diambil.
Nilai Relevansi
Terakhir, nilai apakah jawaban menjawab pertanyaan yang diajukan. Relevansi jawaban melengkapi penilaian, bukan hanya memastikan jawaban memiliki landasan.
Kerangka Kerja seperti RAGAS
RAGAS menghitung kesetiaan, recall konteks, dan relevansi dari kasus Anda. Kerangka kerja mengubah kualitas RAG yang tidak pasti menjadi angka yang dapat Anda lacak dari waktu ke waktu.
from ragas import evaluate
result = evaluate(dataset, metrics=[faithfulness, context_recall])Pemeriksaan Singkat
Bot RAG Anda menjawab dengan yakin, tetapi mengarang fakta yang tidak ada dalam dokumen. Metrik mana yang mendeteksi hal ini?
Rangkuman
Anda telah menambahkan pagar pengaman pada input dan output serta mempelajari cara mengevaluasi RAG dengan kesetiaan, recall konteks, dan relevansi. Aman dan memiliki landasan. Anda berhasil! 🎉
Pertanyaan yang Sering Diajukan
Apakah pelajaran “Guardrail dan Evaluasi RAG” gratis?
Ya — teks lengkap “Guardrail dan Evaluasi RAG” gratis dibaca di sini di web. Untuk praktiknya secara interaktif (editor kode bawaan dan tutor AI 24/7) dan buka sisa kursus MLOps Academy, upgrade ke CoddyKit PRO. Kursus MLOps Academy mencakup 4 pelajaran total.
Apa yang akan aku pelajari di “Guardrail dan Evaluasi RAG”?
Blokir output yang buruk dan ukur kualitas pengambilan. Kamu berlatih MLOps Academy dengan kode praktik yang langsung kamu jalankan di browser, dan tutor AI 24/7 menjawab pertanyaanmu saat kamu mengerjakan pelajaran ini.
Apakah aku perlu pengalaman untuk memulai MLOps Academy?
Tidak diperlukan pengalaman sebelumnya. MLOps Academy di CoddyKit dirancang untuk pemula hingga pelajar tingkat lanjut, jadi kamu bisa memulai di sini atau dari awal dan belajar sesuai kecepatan kamu sendiri. Ini adalah pelajaran 4 dari 4.
Berapa lama pelajaran “Guardrail dan Evaluasi RAG” memakan waktu?
Sebagian besar pelajaran CoddyKit memakan waktu sekitar 5–10 menit. Setiap pelajaran ringkas dan interaktif, jadi kamu membuat kemajuan stabil dan melanjutkan dari tempat kamu tinggalkan di web dan aplikasi.
Bisakah aku menulis dan menjalankan kode dalam pelajaran MLOps Academy ini?
Ya. Setiap pelajaran MLOps Academy menyertakan editor kode bawaan, jadi kamu menulis dan menjalankan kode nyata langsung di browser dan mendapatkan umpan balik AI instan — tidak diperlukan penyiapan lokal.
Semua pelajaran dalam kursus ini
- Perbedaan LLMOps dari MLOps Klasik
- Buat Versi Prompt dan Evaluasi Output
- Telusuri dan Pantau Panggilan LLM
- Guardrail dan Evaluasi RAG