Penjanaan Dipertingkatkan Perolehan (RAG)

Selamat datang! Dalam pelajaran ini, kita akan mendalami Retrieval Augmented Generation (RAG). Ini ialah teknik berkuasa yang membantu Large Language Model (LLM) memberikan jawapan yang lebih tepat dan terkini.

Anggaplah ia sebagai memberikan pembantu penyelidikan peribadi kepada LLM sebelum LLM menjawab soalan anda. Pembantu ini mencari maklumat yang berkaitan dengan pantas daripada sumber yang dipercayai.

LLM tradisional dilatih menggunakan jumlah data yang sangat besar, tetapi data ini mempunyai tarikh had. Ini bermakna LLM tidak dapat mengetahui peristiwa terkini atau maklumat khusus dan peribadi.

Tanpa bantuan luaran, LLM mungkin:

• Menghasilkan halusinasi: Mereka-reka fakta yang kedengaran munasabah tetapi tidak betul.
• Memberikan maklumat lapuk: Memberikan jawapan berdasarkan data lama.
• Kekurangan pengetahuan khusus domain: Menghadapi kesukaran dengan topik yang sangat khusus.

RAG menangani batasan ini dengan menghubungkan LLM kepada sumber pengetahuan luaran yang terkini dan berwibawa. Ia seperti memberikan LLM peperiksaan dengan buku terbuka!

Daripada bergantung sepenuhnya pada ingatan pralatihnya, LLM yang dipertingkatkan dengan RAG boleh:

• Mengakses maklumat masa nyata.
• Memetik sumber khusus untuk jawapannya.
• Mengurangkan kemungkinan mereka-reka maklumat (halusinasi).

RAG berfungsi dalam dua peringkat utama:

1. Perolehan: Mula-mula, RAG mencari cebisan maklumat yang berkaitan daripada pangkalan pengetahuan berdasarkan pertanyaan anda.
2. Penjanaan: Kemudian, RAG menggunakan maklumat yang diperoleh itu sebagai konteks untuk membantu LLM merumuskan jawapan yang tepat dan jitu.

Kedua-dua langkah ini bekerjasama dengan lancar untuk memberikan respons yang lebih baik.

Fasa perolehan menumpukan pada pencarian koleksi dokumen dengan cekap. Bayangkan anda mempunyai perpustakaan yang mengandungi semua dokumen dalaman syarikat anda atau artikel berita terkini.

Apabila anda mengemukakan soalan, sistem RAG mengimbas perpustakaan ini dengan pantas untuk mengeluarkan hanya perenggan atau bahagian yang paling berkaitan. Ini memastikan LLM menerima konteks yang tertumpu dan membantu.

Bagaimanakah sistem "mengetahui" perkara yang berkaitan? Sistem menggunakan sesuatu yang dipanggil penyematan dan pangkalan data vektor.

• Penyematan: Menukar teks (soalan anda, bahagian dokumen) kepada perwakilan berangka (vektor). Teks yang serupa mempunyai vektor yang serupa.
• Pangkalan Data Vektor: Menyimpan penyematan teks ini dan membolehkan "pencarian keserupaan" yang sangat pantas. Jadi, apabila anda mengemukakan soalan, sistem mencari bahagian dokumen yang vektornya paling hampir dengan vektor soalan anda.

Setelah maklumat yang berkaitan diperoleh, maklumat itu digabungkan dengan arahan asal anda dan dihantar kepada LLM. Konteks tambahan ini bertindak sebagai panduan kepada LLM.

Arahan itu mungkin kelihatan seperti ini: "Using the following context, answer the question: [Retrieved Context] Question: [User's Question]"

LLM kemudiannya menghasilkan jawapan yang berasaskan fakta yang diberikan.

Mari kita gambarkan aliran asasnya:

1. Pengguna mengemukakan soalan.
2. Soalan disematkan (ditukar kepada vektor).
3. Pangkalan data vektor mencari bahagian dokumen yang berkaitan menggunakan pencarian keserupaan.
4. Bahagian yang diperoleh ditambahkan pada arahan sebagai konteks.
5. LLM menghasilkan jawapan menggunakan arahan yang diperkaya.
6. Jawapan LLM dikembalikan kepada pengguna.

Kitaran ini memastikan respons yang berinformasi.

RAG menawarkan kelebihan yang besar untuk membina aplikasi LLM yang boleh dipercayai:

• Pengurangan Halusinasi: Jawapan berdasarkan fakta daripada pangkalan pengetahuan anda.
• Maklumat Terkini: Kemas kini pangkalan pengetahuan anda dengan mudah tanpa melatih semula LLM.
• Kekhususan Domain: Sesuaikan respons LLM dengan industri khusus atau data dalaman anda.
• Ketelusan: Selalunya boleh memetik sumber, sekali gus meningkatkan kepercayaan pengguna.

Anda telah mempelajari Retrieval Augmented Generation (RAG), iaitu teknik penting untuk mengasaskan LLM pada pengetahuan luaran.

• RAG menangani batasan LLM seperti halusinasi dan maklumat lapuk.
• RAG melibatkan dua fasa: Perolehan (mencari maklumat berkaitan) dan Penjanaan (LLM menggunakan maklumat tersebut).
• Pangkalan data vektor dan penyematan penting untuk perolehan yang cekap.

RAG membolehkan LLM menjadi lebih tepat, terkini dan boleh dipercayai, menjadikannya praktikal untuk aplikasi dunia sebenar. Teruskan meneroka cara melaksanakan RAG dalam projek anda!