نافذة السياق الطويلة: هل ألغت الحاجة إلى RAG؟

كلما اتّسعت نوافذ السياق، عاد السؤال: «ما دام النموذج يبتلع كتابًا كاملًا، لماذا نبني خط استرجاع؟» السؤال وجيه، وجوابه ليس «لأن RAG أفضل» بل ثلاث حقائق قابلة للقياس.

أولًا: الموضع داخل السياق يغيّر الدقّة

فحصت دراسة Lost in the Middle [1] كيف تستعمل النماذج سياقاتها الطويلة، وخلصت إلى نمط ثابت: الأداء يبلغ ذروته حين تكون المعلومة ذات الصلة في بداية السياق أو نهايته، ويتراجع تراجعًا ملموسًا حين تُدفن في المنتصف — منحنى على شكل حرف U.

الترجمة العملية: حشو ثلاثين مستندًا «احتياطًا» ليس تأمينًا، بل زيادة في احتمال أن يقع المستند الصحيح في المنطقة التي يقرؤها النموذج أضعف.

ثانيًا: الاقتصاد

الحشو يعني دفع ثمن كل رمز في كل طلب. الاسترجاع يعني كلفة فهرسة تُدفع مرة، ثم إدخال بضعة مقاطع في كل طلب.

ثالثًا: التتبّع والاستشهاد

مع الاسترجاع تعرف أي مقطع استُعمل، فتعرضه للمستخدم وتدقّقه. مع الحشو الكامل تفقد هذا الخيط، ويصير سؤال «من أين جاءت هذه الجملة؟» بلا جواب — وهو سؤال يأتي دائمًا في السياقات المؤسسية.

متى يكون الحشو هو الصواب

• قاعدة صغيرة وثابتة: دليل من عشرين صفحة يُقرأ كاملًا في كل مرة.
• أسئلة تحتاج المستند كله: تلخيص عقد، أو استخراج كل البنود التي تحمل شرطًا معيّنًا.
• نموذج أوّلي: ابدأ بالحشو لتثبت الفكرة، ثم انتقل إلى الاسترجاع حين يكبر المحتوى أو ترتفع الفاتورة.

المعمارية التي أوصي بها

استرجاع جيّد ثم سياق واسع، لا أحدهما بدل الآخر:

1. استرجع بسخاء (٣٠–٥٠ مرشّحًا) لأن النافذة تتّسع.
2. أعد ترتيبهم واختر الأقوى.
3. رتّبهم داخل السياق فتضع الأقوى في الطرفين لا الوسط.
4. اطلب استشهادًا برقم المقطع.

النافذة الواسعة هنا ترفع سقف ما يمكن إدخاله، والاسترجاع يقرّر ماذا يدخل. هذا أفضل ما تعطيه الوفرة: مجال أوسع لقرار أدقّ، لا ذريعة لإلغاء القرار.

كيف تحسم الاختيار بتجربة واحدة

بدل الجدال النظري، قِس الخيارين على أسئلتك في جلسة واحدة:

1. جهّز عشرين سؤالًا تحتاج إجاباتها معلومات متفرّقة في وثائقك — لا أسئلة تُجاب من فقرة واحدة، فهذه لا تفرّق بين المعماريتين.
2. شغّل المسارين: حشو الوثائق كاملةً في السياق، مقابل استرجاع أفضل المقاطع. ثبّت النموذج والمُوجّه، ولا تغيّر إلا مصدر السياق.
3. سجّل أربعة أعمدة لكل سؤال: صحّة الإجابة، ورموز المدخل المستهلكة، والكمون حتى أول رمز، وهل أمكن ردّ الإجابة إلى مصدر بعينه.
4. العمود الرابع هو الحاسم غالبًا. الحشو يعطي إجابة صحيحة أحيانًا دون أن تعرف من أين جاءت؛ وحين يشكّك مستخدم في جواب، لا تملك ما تريه إيّاه.
5. أعد التجربة عند مضاعفة حجم الوثائق. المعمارية التي تنجح على مئة صفحة قد تنهار على ألف — والانهيار يكون في التكلفة والكمون قبل أن يكون في الدقّة.

القرار بعد هذه الجلسة يصير موثّقًا برقم، لا مبنيًّا على آخر مقال قرأته عن طول السياق.

الأخطاء الشائعة

1. الاستنتاج من «النافذة اتّسعت» أن الترتيب لم يعد مهمًّا.
2. قياس الحشو على أسئلة سهلة فقط، حيث الفارق لا يظهر.
3. تجاهل الكمون: طول الإدخال يرفع زمن أول رمز، وهو ما يشعر به المستخدم.
4. إسقاط الاستشهاد لأن «كل شيء في السياق».

الأسئلة الشائعة

هل يعني هذا أن السياق الطويل بلا فائدة؟

بالعكس: يسمح بإدخال مقاطع أكثر بعد إعادة الترتيب، وبتاريخ محادثة أطول، وبأمثلة أوفر داخل التعليمة. الفائدة حقيقية، لكنها لا تُلغي الحاجة إلى اختيار ما يدخل.

كيف أقيس أيّهما أفضل عندي؟

شغّل المسارين على مجموعتك الذهبية نفسها وقارن ثلاثة أرقام: دقّة الإجابة، والتكلفة لكل ألف طلب، وزمن الاستجابة عند المئين ٩٥. القرار يظهر في الجدول لا في النقاش.

ماذا عن التخزين المؤقت للسياق؟

يخفّض كلفة الجزء الثابت المتكرّر في مقدّمة الطلبات، ولا يخفّض كلفة مستندات تتغيّر مع كل سؤال. يفيد الحشو حين يكون المحشوّ ثابتًا بين الطلبات.

المراجع

1. Liu, N. et al. Lost in the Middle: How Language Models Use Long Contexts. TACL 2024. arXiv:2307.03172
2. Lewis, P. et al. Retrieval-Augmented Generation for Knowledge-Intensive NLP Tasks. arXiv:2005.11401
3. Gao, Y. et al. Retrieval-Augmented Generation for LLMs: A Survey. arXiv:2312.10997
4. Thakur, N. et al. BEIR. arXiv:2104.08663