Asas Penjanaan Diperkukuh Carian

Bagaimanakah bot sembang menjawab soalan tentang maklumat khusus atau terkini dengan tepat? Retrieval Augmented Generation (RAG) — ia memberi LLM ujian buku terbuka dengan mencari konteks tambahan.

LLM biasa mempunyai had yang diketahui: ia mereka-reka fakta, pengetahuannya terhenti pada masa latihan, dan ia sukar mengendalikan data khusus atau peribadi.

LLM meramalkan perkataan seterusnya yang paling mungkin berdasarkan corak — ia tidak benar-benar mengetahui fakta. Apabila tidak pasti, ia mengisi jurang dengan mereka-reka butiran, dan inilah cara halusinasi berlaku.

Penyelesaiannya ialah pembumian: berikan LLM maklumat khusus dan boleh disahkan yang berkaitan dengan soalan. Konteks itu bertindak sebagai sauh fakta untuk menghasilkan jawapan yang lebih boleh dipercayai.

Langkah pertama RAG ialah pengambilan: apabila anda mengemukakan soalan, sistem terlebih dahulu mencari pangkalan pengetahuan untuk mendapatkan maklumat yang paling berkaitan.

Langkah kedua RAG ialah penambahan: fakta yang diambil ditambahkan pada soalan anda sebelum soalan itu sampai kepada LLM, supaya LLM mempunyai perkara yang diperlukan untuk menjawab.

Aliran RAG secara ringkas: pengguna bertanya, sistem mengambil dokumen yang berkaitan, dokumen itu ditambahkan pada gesaan, kemudian LLM membaca kedua-duanya dan menjana jawapan yang berpandukan fakta.

Dengan memberikan fakta yang terkini dan khusus terus kepada model, RAG meningkatkan ketepatan — LLM tidak lagi bergantung pada pengetahuan pralatih semata-mata. Ini amat penting untuk sokongan atau kerja perundangan.

RAG ialah penapis kebenaran: dengan konteks berfakta, LLM jauh kurang berkemungkinan mereka-reka sesuatu dan akan berpegang pada fakta yang diberikan, lalu menghasilkan output yang boleh dipercayai.

Imbas kembali: RAG menangani halusinasi dan pengetahuan lapuk dengan mengambil maklumat yang berkaitan serta menambahnya pada gesaan — lalu membumikan LLM untuk menghasilkan jawapan yang tepat dan boleh dipercayai. Seterusnya: seni bina.