Ortada Kaybolma

Uzun bağlamlı modellerde bilgi getirme doğruluğu, konuma göre U biçimli bir eğri izler: bağlamın başındaki ve sonundaki olgular iyi hatırlanırken ortadaki olgular en kötü şekilde hatırlanır. Buna "ortada kaybolma" etkisi denir.

• Bu, rastlantısal değil, dikkat ve eğitimin bir özelliğidir.
• Yanıt açıkça mevcut olsa bile etkisini sürdürür.

Konum tarafsız değildir; etrafında tasarım yapmanız gereken bir güvenilirlik etmenidir.

Orta bölgede birkaç baskı birleşir: konumsal yanlılıklar en yeni ve en erken belirteçleri kayırır, eğitim verilerinde "yanıtın başa veya sona yakın olduğu" örüntüler gereğinden fazla temsil edilir ve iç bölgedeki çok sayıdaki dikkat dağıtıcı, dikkati tek bir olgudan uzaklaştırır.

Yanlılığı modelden kaldıramazsınız, ancak onunla mücadele etmeyi bırakabilirsiniz.

İlk ve en güvenilir önlem şudur: modelin mutlaka kullanması gerekenleri sınırlara yerleştirin. Görev talimatı ve en değerli kanıt, ortanın derinliklerine gömülmek yerine üst ve alt kısımlara yakın olmalıdır.

• Görev ve temel olgularla başlayın.
• Temel talimatı en sonda yineleyin ("görevinizin hatırlatması: ...").

Getirilen parçaların sırasını denetlediğinizde onları bilgi getirme puanına göre önden arkaya sıralamayın. En ilgili parçaları her iki kenara, en az ilgili parçaları da ortaya yerleştirecek şekilde dönüşümlü düzenleyin; böylece U eğrisinden bilinçli olarak yararlanın.

Bu "kenarlara yükleme", orta konum kaybının büyük bir bölümünü telafi edebilir.

Orta bölge kaybı için en ucuz çözüm, orta bölgenin daha küçük olmasıdır. Birleştirmeden önce ilgisiz parçaları atmak gibi agresif bir ön filtreleme, olguların kaybolduğu iç bölgeyi küçültür ve dikkati önemli olana yoğunlaştırır.

15 bin belirteçlik odaklanmış bir istemde savunmasız bir orta bölge neredeyse yoktur; 600 bin belirteçlik bir istem ise çoğunlukla orta bölgeden oluşur.

Modele bir harita verin. Üstte bir içindekiler tablosu ve açık bölüm çapaları, modelin ham konumsal hatırlamaya güvenmek yerine ilgili bölgelere gitmesini sağlar.

• Bölümleri numaralandırın ve soruda onlara başvurun.
• Modelin arayabileceği SECTION 7: PRICING gibi açık çapalar ekleyin.

Yapı, konumsal güvenilirliğin kısmen yerini tutar.

Yanıtlamadan önce modelden ilgili içeriğin nerelerde bulunduğunu sıralamasını isteyin. Önce kanıtı bulma eylemi, orta bölgeyi atlama eğilimini dengeler.

"Önce yenileme ücretinden söz eden her bölümü çapasıyla birlikte listeleyin, sonra yanıtlayın." Açık tarama, doğrudan bir sorunun kaçıracağı orta bölge içeriğini ortaya çıkarır.

Kritik bir olgu ölü bölgeye düşer ve hatırlama güvenilir olmazsa, isteği bu olgu bir kenara taşınmış olarak yeniden gönderin. Birden çok olgulu görevlerde, hangi olguların güçlü konumlarda yer aldığını döndüren geçişler çalıştırabilir ve sonuçları uzlaştırabilirsiniz.

Konumları döndürmek, tek bir yerleşimin güvenilmez olduğu durumlarda pratik bir sağlamlık hilesidir.

Kapsamlı görevlerde ("tüm ihlalleri bulun") tek bir dev geçiş, orta bölgedeki öğeleri kaçıracaktır. Pencereleri, zayıf bir orta bölge oluşturmayacak kadar küçültüp birbirleriyle örtüşecek şekilde bölün; her birini çalıştırın, ardından sonuçları birleştirip yinelenenleri kaldırın.

• Örtüşme, sınırdaki kaçırmaları önler.
• Birleştirme adımı yinelenenleri ve çakışmaları uzlaştırır.

coverage görevleri, tek bir dev geçiş yerine çok sayıda küçük geçişi destekler.

Bu etkinin şiddeti modele ve istem biçimine göre değişir. Etkiyi karakterize edin: farklı derinliklere bir deneme işareti yerleştirin ve geri çağırmayı grafiğe dökün. Bu eğriyi, o model için güvenli bağlam uzunluğunu ve kenarlara yükleme politikanızı belirlemek üzere kullanın.

Söylentilere göre değil, ölçülmüş davranışa göre mühendislik yapın.

Ortada kaybolma etkisini aşmak için saman yığınını küçültün, en ilgili içeriği kenarlara yükleyin, görevi sonda yineleyin, bir dizin ekleyip yanıtlamadan önce konum bulma taramasını zorlayın, yeniden sorarken konumları döndürün ve kapsamlı coverage için parçala-birleştir yaklaşımını kullanın. Her şeyden önce modelinizin eğrisini ölçün ve tasarımınızı buna göre yapın.

Kullanılması gereken tek bir olgunuz ve geniş miktarda destekleyici bağlamınız var; ayrıca modelin bazen bu olguyu göz ardı ettiğini fark ettiniz.

Uzun bağlamda hatırlama U biçimindedir: kenarlar güvenilir, orta bölge ise güvenilir değildir. Buna karşı koymak için saman yığınını küçültün, en ilgili parçaları kenarlara yükleyin, görevi sonda yineleyin, bir dizin ekleyip yanıtlamadan önce konum bulma taramasını zorlayın, yeniden sorarken konumları döndürün ve kapsamlı coverage için parçala-birleştir yaklaşımını kullanın. Modelinizin gerçek eğrisini ölçün ve eşit hatırlamaya güvenmek yerine yerleşimi buna göre tasarlayın.