Menemukan Rentang Jawaban dalam Konteks

Di balik layar, QA ekstraktif tidak pernah menulis teks. Model memilih rentang: potongan konteks yang berurutan dan ditentukan oleh posisi awal serta akhirnya.

Tugas sebenarnya model adalah memprediksi dua posisi: token awal jawaban dan token akhirnya. Potongan di antara keduanya adalah jawabannya.

Di dalam model, konteks dipecah menjadi token, bukan huruf mentah. Posisi awal dan akhir berupa indeks token yang kemudian dipetakan kembali ke karakter.

Untuk setiap token, model menghasilkan logit awal dan logit akhir. Skor ini menunjukkan seberapa mungkin setiap token menjadi awal atau akhir jawaban.

Rentang yang dipilih adalah pasangan posisi awal dan akhir dengan skor gabungan tertinggi, dengan aturan bahwa posisi akhir tidak pernah mendahului posisi awal.

Alur kerja mengembalikan offset karakter sehingga Anda dapat mengambil potongan dari konteks asli sendiri dan memperoleh kembali teks jawaban yang persis.

Offset tersebut memungkinkan Anda menyoroti jawaban langsung di dalam bagian teks, sehingga sangat berguna untuk menunjukkan kepada pengguna asal suatu fakta.

Anda dapat membatasi panjang rentang dengan max_answer_len. Dengan begitu, model tidak mengembalikan seluruh kalimat sebagai jawaban.

Atur top_k untuk mengembalikan lebih dari satu kandidat rentang. Meninjau beberapa pilihan membantu ketika jawaban terbaik masih ambigu.

Rentang selalu berupa satu bagian teks yang berkesinambungan. QA ekstraktif tidak dapat merangkai kata-kata dari bagian berbeda dalam suatu bagian teks.

Karena jawaban berupa rentang persis dengan offset, Anda dapat menyorotnya di tempat, sehingga pengguna memperoleh sumber yang dapat diverifikasi untuk setiap jawaban. 🔦

Bagaimana model menentukan jawaban?

Model memprediksi posisi awal dan akhir, memilih pasangan valid terbaik, lalu offset memungkinkan Anda mengambil potongan dan menyoroti jawaban yang persis. 📌