Retrieval Augmented Generation (RAG)

Selamat datang di Retrieval Augmented Generation (RAG)! Pelajaran ini memperkenalkan teknik yang ampuh untuk membuat Large Language Models (LLMs) lebih akurat dan andal.

RAG menggabungkan pengetahuan luas LLM dengan informasi eksternal terkini. Ibarat memberikan buku terbuka kepada LLM saat menghadapi ujian yang sulit!

LLM biasa, meskipun mengesankan, memiliki beberapa keterbatasan:

• Halusinasi: Terkadang LLM dapat menghasilkan informasi yang secara faktual salah atau tidak masuk akal.
• Pengetahuan Kedaluwarsa: Pengetahuannya terbatas pada tanggal batas data pelatihannya.
• Kurang Spesifik: LLM mungkin tidak mengetahui fakta khusus dari bidang yang khusus atau bersifat pribadi.
• Tanpa Sitasi: LLM tidak dapat dengan mudah memberi tahu sumber informasinya.

RAG mengatasi keterbatasan ini dengan mengintegrasikan sistem pengambilan dan LLM generatif.

Sebelum LLM menghasilkan respons, RAG terlebih dahulu mengambil informasi relevan dari basis pengetahuan eksternal yang tepercaya. Informasi yang diambil ini kemudian "menambah" (meningkatkan) prompt yang diberikan kepada LLM.

Langkah pertama dalam RAG adalah pengambilan. Saat pengguna mengajukan pertanyaan, komponen "pengambil" khusus segera bekerja.

• Komponen ini menganalisis kueri pengguna.
• Komponen ini mencari di basis pengetahuan eksternal yang besar (misalnya, dokumen, basis data, halaman web).
• Komponen ini mengidentifikasi dan mengambil bagian informasi atau "dokumen" yang paling relevan dengan kueri.

Setelah informasi relevan diambil, langkah berikutnya adalah penambahan.

• Potongan teks yang diambil dimasukkan langsung ke dalam prompt pengguna asli.
• Hal ini membuat "prompt yang ditambah" yang kini berisi permintaan pengguna dan konteks faktual.
• Prompt yang diperkaya ini menyediakan data spesifik yang diperlukan LLM untuk merumuskan jawaban yang akurat.

Terakhir, langkah pembuatan berlangsung. Large Language Model menerima prompt yang telah ditambah.

• Dengan konteks relevan yang kini diberikan secara eksplisit, LLM menghasilkan responsnya.
• LLM diarahkan untuk terutama mendasarkan jawabannya pada informasi yang diberikan, bukan hanya mengandalkan pengetahuan pralatihnya.
• Hal ini menghasilkan keluaran yang lebih berlandaskan fakta, faktual, dan dapat diverifikasi.

Menerapkan RAG menawarkan beberapa keunggulan penting:

• Mengurangi Halusinasi: Jawaban LLM berlandaskan fakta dari basis pengetahuan.
• Informasi Terkini: Akses ke data terbaru di luar batas data pelatihan LLM.
• Kekhususan Bidang: Dengan mudah mengintegrasikan data organisasi yang pribadi atau khusus.
• Keterjelasan: Sistem sering kali dapat mencantumkan sumber tempat informasi diambil.

Mari kita visualisasikan interaksi RAG sederhana:

1. Kueri Pengguna: "Kapan Menara Eiffel selesai dibangun?"
2. Pengambilan: Sistem mencari di basis data fakta sejarah, lalu menemukan "Menara Eiffel selesai dibangun pada 31 Maret 1889."
3. Penambahan: Prompt menjadi: "Berdasarkan informasi berikut: 'Menara Eiffel selesai dibangun pada 31 Maret 1889.', kapan menara tersebut selesai dibangun?"
4. Pembuatan: LLM menjawab: "Menara Eiffel selesai dibangun pada 31 Maret 1889."

Pada intinya, sistem RAG terdiri dari dua komponen logis utama:

• Pengambil: Komponen ini bertugas mencari dan mengambil dokumen atau potongan data yang paling relevan dari basis pengetahuan eksternal berdasarkan kueri pengguna.
• Pembangkit: Ini adalah Large Language Model (LLM) itu sendiri, yang menggabungkan kueri asli pengguna dengan konteks yang diambil untuk menghasilkan jawaban yang koheren dan informatif.

Manakah dari berikut ini yang merupakan manfaat utama penggunaan Retrieval Augmented Generation (RAG) untuk LLM?

Sekarang Anda telah mempelajari konsep inti dan arsitektur Retrieval Augmented Generation (RAG). RAG adalah teknik penting untuk membangun aplikasi LLM yang lebih andal, faktual, dan peka terhadap konteks.

Dengan menggabungkan pengambilan dan pembuatan, RAG memungkinkan LLM berinteraksi dengan data eksternal dinamis dan memberikan jawaban berdasarkan data tersebut. Berikutnya, kita akan menjelajahi bagaimana basis data vektor berperan penting dalam pengambilan yang efisien untuk sistem RAG!