الضياع في المنتصف

في نماذج السياق الطويل، تتبع دقة الاسترجاع منحنى على شكل U بحسب الموضع: إذ تُستدعى الحقائق الموجودة في بداية السياق ونهايته جيدًا، بينما تُستدعى الحقائق الموجودة في المنتصف بأقل كفاءة. وهذا هو تأثير «الضياع في المنتصف».

• إنه خاصية ناتجة عن الانتباه والتدريب، وليس عشوائيًا.
• ويستمر حتى عندما تكون الإجابة موجودة بوضوح لا لبس فيه.

الموضع ليس محايدًا؛ بل هو عامل موثوقية يجب أن تصمم نظامك مع مراعاته.

تتراكم عدة ضغوط في المنتصف: إذ تفضّل الانحيازات الموضعية الرموز الأحدث والأولى، وتبالغ بيانات التدريب في تمثيل أنماط «الإجابة قرب البداية أو النهاية»، كما أن العدد الكبير من العناصر المشتتة المتنافسة في الجزء الداخلي يضعف الانتباه إلى أي حقيقة منفردة.

لا يمكنك إزالة هذا الانحياز من النموذج، لكن يمكنك التوقف عن مقاومته.

أول إجراء للتخفيف وأكثرها موثوقية هو وضع ما يجب على النموذج استخدامه عند الحدود. يجب أن تكون تعليمات المهمة والأدلة الأعلى قيمة قرب الأعلى والأسفل، لا مدفونة في المنتصف.

• ابدأ بالمهمة والحقائق الأساسية.
• كرّر التعليمات الأساسية في النهاية تمامًا («تذكير بمهمتك: ...»).

عندما تتحكم في ترتيب الأجزاء المسترجعة، لا تضعها مباشرة من الأمام إلى الخلف وفق ترتيب درجة الاسترجاع. رتّبها بالتناوب بحيث تستقر الأجزاء الأكثر صلة عند كلتا الحافتين، وتملأ الأجزاء الأقل صلة المنتصف — مستفيدًا من منحنى U عمدًا.

يمكن لهذا «التحميل عند الحواف» أن يستعيد جزءًا كبيرًا من الفقد الناتج عن المواضع الوسطى.

أقل حل تكلفة لفقدان المعلومات في المنتصف هو تقليل حجم المنتصف نفسه. فالتصفية المسبقة المكثفة — أي إسقاط الأجزاء غير ذات الصلة قبل التجميع — تقلّص الجزء الداخلي الذي تضيع فيه الحقائق، وتركّز الانتباه على ما يهم.

تكاد مطالبة مركزة من 15 ألف رمز لا تحتوي على منتصف ضعيف؛ أما مطالبة من 600 ألف رمز فمعظمها يقع في المنتصف.

امنح النموذج خريطة. يتيح جدول محتويات في الأعلى، إلى جانب نقاط ارتكاز واضحة للأقسام، للنموذج الانتقال إلى المناطق ذات الصلة بدل الاعتماد على التذكّر الموضعي الخام.

• رقّم الأقسام وأشر إليها في السؤال.
• أضف نقاط ارتكاز صريحة مثل SECTION 7: PRICING يمكن للنموذج البحث عنها.

تحل البنية جزئيًا محل الموثوقية الموضعية.

اطلب من النموذج تعداد مواضع ظهور المواد ذات الصلة قبل الإجابة. ففعل تحديد موضع الدليل أولًا يعاكس الميل إلى تجاوز المنتصف.

«أدرج أولًا كل قسم يذكر رسم التجديد مع نقطة ارتكازه، ثم أجب.» يكشف المسح الصريح المحتوى الموجود في المنتصف، والذي قد يفوّته السؤال المباشر.

إذا وقعت حقيقة مهمة في المنطقة الميتة وكان تذكّرها متذبذبًا، فأعد إرسال الطلب بعد نقل تلك الحقيقة إلى إحدى الحافتين. وفي المهام التي تتضمن حقائق متعددة، يمكنك تنفيذ تمريرات تدوّر الحقائق التي تشغل المواضع القوية، ثم توفّق بين النتائج.

تدوير المواضع حيلة عملية لزيادة المتانة عندما يكون التخطيط الواحد غير موثوق.

في المهام الشاملة («اعثر على جميع المخالفات»)، ستفوّت تمريرة واحدة ضخمة العناصر الموجودة في المنتصف. قسّم المحتوى إلى نوافذ متداخلة صغيرة بما يكفي كي لا تحتوي على منتصف ضعيف، وشغّل كل نافذة، ثم ادمج النتائج وأزل التكرارات.

• يمنع التداخل فقدان العناصر عند الحدود.
• توفّق خطوة الدمج بين التكرارات والتعارضات.

تفضّل مهام التغطية تنفيذ تمريرات صغيرة متعددة بدل تمريرة واحدة ضخمة.

تختلف شدة التأثير باختلاف النموذج وشكل المطالبة. حدّد خصائصه: أدرج قيمة اختبارية على أعماق متدرجة، ثم ارسم منحنى التذكّر. استخدم المنحنى لتحديد طول السياق الآمن وسياسة تحميل الحواف الخاصة بذلك النموذج.

صمّم النظام بناءً على السلوك المقاس، لا على المعتقدات الشائعة.

للتغلب على الضياع في المنتصف: قلّص كومة القش، وحمّل المحتوى الأكثر صلة عند الحواف، وأعد ذكر المهمة في النهاية، وأضف فهرسًا وأجبر النموذج على إجراء مسح لتحديد الموضع قبل الإجابة، ودوّر المواضع عند إعادة السؤال، واستخدم التجزئة والدمج لتحقيق التغطية الشاملة. وقبل كل شيء، قِس المنحنى الخاص بنموذجك وصمّم النظام وفقًا له.

لديك حقيقة واحدة يجب استخدامُها، وكمية كبيرة من السياق الداعم، وقد لاحظت أن النموذج يتجاهل الحقيقة أحيانًا.

تذكّر السياق الطويل على شكل U: فالحواف موثوقة، أما المنتصف فليس كذلك. عالج ذلك بتقليص كومة القش، وتحميل الأجزاء الأكثر صلة عند الحواف، وإعادة ذكر المهمة في النهاية، وإضافة فهرس وإجبار النموذج على إجراء مسح لتحديد الموضع قبل الإجابة، وتدوير المواضع عند إعادة السؤال، واستخدام التجزئة والدمج لتحقيق التغطية الشاملة. قِس المنحنى الفعلي لنموذجك، وصمّم مواضع المحتوى وفقًا له بدلًا من افتراض أن التذكّر متجانس.