Bağlamdaki Yanıt Aralıklarını Bulma

Arka planda, çıkarımsal QA hiçbir zaman metin yazmaz. Bir metin aralığı seçer: başlangıç ve bitiş konumlarıyla tanımlanan, bağlamın kesintisiz bir bölümünü.

Modelin asıl görevi iki konumu tahmin etmektir: yanıtın başlangıç belirteci ve bitiş belirteci. İkisinin arasındaki bölüm yanıttır.

Modelin içinde bağlam ham harflere değil, belirteçlere ayrılır. Başlangıç ve bitiş, daha sonra karakterlere dönüştürülen belirteç dizinleridir.

Model her belirteç için bir başlangıç logiti ve bir bitiş logiti üretir. Bu puanlar, her belirtecin yanıtı başlatma veya bitirme olasılığını gösterir.

Seçilen metin aralığı, birleşik puanı en yüksek olan başlangıç ve bitiş çiftidir; ayrıca bitiş, başlangıçtan önce gelemez.

İşlem hattı karakter ofsetlerini döndürür; böylece özgün bağlamı kendiniz bölebilir ve tam yanıt metnini elde edebilirsiniz.

Bu ofsetler, yanıtı doğrudan metin parçasının içinde vurgulamanızı sağlar. Bu da kullanıcılara bir bilginin nereden geldiğini göstermenin harika bir yoludur.

Bir metin aralığının ne kadar uzun olabileceğini max_answer_len ile sınırlayabilirsiniz. Böylece modelin yanıt olarak bütün bir cümleyi döndürmesi engellenir.

Birden fazla aday metin aralığı döndürmek için top_k değerini ayarlayın. En iyi yanıt belirsiz olduğunda birkaç seçeneği incelemek yardımcı olur.

Bir metin aralığı her zaman tek bir kesintisiz metin bölümüdür. Çıkarımsal QA, metin parçasının farklı bölümlerindeki sözcükleri birleştiremez.

Yanıtlar ofsetlere sahip kesin metin aralıkları olduğundan, onları yerinde vurgulayabilir ve her yanıt için kullanıcılara doğrulanabilir bir kaynak sunabilirsiniz. 🔦

Model başlangıç ve bitiş konumlarını tahmin eder, geçerli çiftler arasından en iyisini seçer; ofsetler de tam yanıtı bölmenizi ve vurgulamanızı sağlar. 📌