HyDE: استرجاع كثيف دقيق دون أمثلة ودون تسميات صِلة

يقوم الاسترجاع الكثيف على فكرة واضحة: حوِّل كلاً من الاستعلام والمستند إلى متجه في فضاء تضمين مشترك، ثم ابحث عن المستندات التي تقع متجهاتها أقرب ما يكون إلى متجه الاستعلام. والتشابه هنا يُقاس بـالجداء الداخلي:

المشكلة الأساسية أنّ الاستعلام والمستند مختلفان جذرياً في بنيتهما. خذ مثلاً استعلاماً كـ «كم تستغرق عملية خلع ضرس العقل؟» — بضع كلمات استفهامية دون سياق. في المقابل، الفقرة ذات الصلة في المستند تكون طويلة وتقريرية ومليئة بالتفاصيل: «يستغرق خلع ضرس العقل عادةً من 30 إلى 60 دقيقة حسب تعقيد الحالة...»

لكي يتعلّم مُرمِّزان وضع هذين النوعين المختلفين بنيوياً في فضاء واحد بحيث يعكس الجداء الداخلي بينهما مفهوم الصلة، نحتاج إلى كمّيات هائلة من أزواج استعلام-مستند وسمها بشر يدوياً — مجموعات بيانات مثل MS-MARCO تحوي مئات الآلاف من هذه التقييمات. دون هذه التسميات لا يملك النظام أيّ إشارة تدرّج تُعرِّفه ما الذي يُعَدّ «ذا صِلة».

نماذج مثل Contriever تحاول تعلّم التشابه بين المستندات عبر التعلّم التبايُني دون إشراف بشري، لكنها تبقى تعاني حين يكون المدخل استعلاماً لا مستنداً — الفجوة بين شكل السؤال وشكل الفقرة لا تختفي بسهولة.

الفكرة المحورية في HyDE تبدو بسيطة لدرجة مفاجئة: بدلاً من أن تحاول ردم الفجوة بين الاستعلام والمستند، حوِّل الاستعلام نفسه إلى مستند أولاً، ثم ابحث في فضاء المستندات فقط.

النظام يسير في خطوتين. في الأولى، يُعطى نموذج لغوي يتبع التعليمات (مثل InstructGPT) الاستعلامَ مصحوباً بتعليمة مثل «اكتب فقرة تُجيب عن السؤال»، فيُولّد مستنداً افتراضياً. هذا المستند متخيَّل — قد يحتوي أخطاءً وهلوسات — لكنه يحمل نمط الإجابة ذات الصلة: المفردات المتوقَّعة، والبنية المناسبة، ومستوى التفصيل الطبيعي.

في الخطوة الثانية، يمرّ المستند الافتراضي عبر مُرمِّز تبايُني غير مُشرَف (مثل Contriever) ليتحوّل إلى متجه. هذا المتجه يعيش الآن في الفضاء ذاته الذي تقع فيه جميع مستندات المتن الحقيقية. وبذلك يصبح البحث مطابقةً بين مستند ومستند — وهي مسألة يتعامل معها التعلّم التبايُني بكفاءة دون أيّ تسميات صلة.

نبدأ الصياغة الرسمية من قرار تصميمي جوهري: استخدام مُرمِّز واحد لكل شيء. بدلاً من تخصيص مُرمِّز للاستعلام وآخر للمستند، يكتفي HyDE بمُرمِّز المستندات من نموذج تبايُني غير مُشرَف. نرمز لهذا المُرمِّز بـ $f$:

لنُعرِّف الآن نموذجاً لغوياً يتبع التعليمات نرمز له بـ $g$. حين يتلقّى استعلاماً $q$ وتعليمةً مخصّصة للمهمة $\text{INST}$ (مثل «اكتب فقرة تُجيب عن السؤال»)، يُولّد $g$ مستنداً افتراضياً:

بعد ذلك يُمرَّر المستند الافتراضي عبر $f$ لإنتاج متجه الاستعلام. ولتقليل التباين بين العيّنات، يُولّد HyDE عدداً $N$ من المستندات الافتراضية ويحسب متوسط تضميناتها:

ثم يُحسب الجداء الداخلي بين $\hat{v}_q$ وجميع متجهات المستندات $\{f(d) \mid d \in D\}$، وتُعاد المستندات الحقيقية الأعلى تشابهاً. يمكن التفكير في المُرمِّز $f$ هنا بوصفه ضاغطاً فقوداً: فهو يُحوّل المستند الافتراضي إلى متجه كثيف، يتخلّص أثناءها من التفاصيل الدقيقة (التي قد تكون ملفّقة) ويحتفظ بالجوار الدلالي العام فقط. هذا هو سرّ نجاح الاسترجاع — المتجه يُحدّد المنطقة الصحيحة في فضاء التضمين حتى لو كان النصّ المُولَّد خاطئاً في تفاصيله.

تصوَّر الأمر كنظام بريدي: المستند الافتراضي ظرفٌ يحمل الرمز البريدي الصحيح لكن رقم المنزل خاطئ. المُرمِّز يستخلص الرمز البريدي — أي الجوار الدلالي — ويُوصلك إلى الحيّ الصحيح حيث تقع المستندات الحقيقية.

من أبرز نقاط قوة HyDE أنه يتكيّف مع مهام استرجاع مختلفة دون أيّ تدريب إضافي. النماذج نفسها (InstructGPT + Contriever) تخدم البحث على الوِب والتحقّق من الحقائق العلمية والإجابة عن أسئلة مالية والاسترجاع متعدد اللغات — كل ما يتغيّر هو التعليمة النصية التي تُعطى لـالنموذج اللغوي.

للبحث على الوِب: «اكتب فقرة تُجيب عن السؤال.» للادعاءات العلمية: «اكتب فقرة من ورقة علمية تدعم الادعاء أو تدحضه.» للأسئلة المالية: «اكتب فقرة من مقال مالي تُجيب عن السؤال.» للاسترجاع بالكورية: «اكتب فقرة بالكورية تُجيب عن السؤال بالتفصيل.»

هذه قوة نماذج اتّباع التعليمات: النموذج المُجمَّد نفسه يستطيع توليد مستندات بأسلوب يناسب كل مهمة بمجرّد أن يقرأ تعليمة مختلفة. لا ضبط دقيق، ولا بيانات تدريب خاصة بالمهمة، ولا تعديلات في البنية.

اختُبر HyDE على 11 مجموعة استعلامات تشمل البحث على الوِب (TREC DL19 وDL20) والاسترجاع في بيئات منخفضة الموارد (6 مجموعات من BEIR) والاسترجاع متعدد اللغات (Mr.TyDi بالسواحلية والكورية واليابانية والبنغالية).

في البحث على الوِب، رفع HyDE مقياس nDCG@10 لـ Contriever من 44.5 إلى 61.3 على DL19 — أي تحسّن نسبي يقارب 38%. والأهم أنه طابَق أو تجاوز أداء ContrieverFT، وهي نسخة من Contriever مضبوطة على مئات الآلاف من الأزواج الموسومة في MS-MARCO.

في المهام منخفضة الموارد، تفوّق HyDE على BM25 — الخط الأساسي المعجمي التقليدي — في 5 من أصل 6 مجموعات بيانات، كما تفوّق على نماذج مُشرَف عليها مثل DPR وANCE رغم أنها مضبوطة على MS-MARCO.

أما في الاسترجاع متعدد اللغات، فقد حسّن HyDE أداء mContriever في اللغات الأربع جميعها رغم تفاوت جودة توليد GPT-3 بين اللغات. تفوّق على نماذج مضبوطة كـ mDPR وmBERT، وإن ظلّ متأخراً عن mContrieverFT المضبوط بالكامل.

جرّب المؤلفون HyDE مع ثلاثة نماذج لغوية تتبع التعليمات بأحجام متفاوتة: FLAN-T5 (11 مليار معامل) وCohere (52 مليار) وInstructGPT (175 مليار). النتائج أظهرت نمطاً واضحاً: كلما كبر النموذج اللغوي تحسّنت جودة المستندات الافتراضية، وتحسّن الاسترجاع تبعاً لذلك.

على DL19 مثلاً، ارتفع nDCG@10 من 48.9 مع FLAN-T5 إلى 53.8 مع Cohere إلى 61.3 مع InstructGPT. حتى أصغر هذه النماذج تفوّق على خطّ Contriever الأساسي (44.5)، ما يؤكّد أنّ منهج HyDE فعّال عبر أحجام مختلفة — لكنه يستفيد بوضوح من نماذج توليد أقوى.

والمغزى العملي هنا مهمّ: مع استمرار تطوّر النماذج اللغوية، سيتحسّن HyDE تلقائياً دون الحاجة إلى إعادة تدريب نظام الاسترجاع نفسه.

للوهلة الأولى يبدو الأمر متناقضاً: كيف يُولّد النموذج اللغوي نصّاً قد يكون خاطئاً واقعياً، ومع ذلك تأتي نتائج الاسترجاع دقيقة؟ الجواب يكمن في عنق الزجاجة الكثيف الذي يفرضه المُرمِّز.

حين يُحوّل المُرمِّز مستنداً افتراضياً إلى متجه، فإنه يضغط نصّاً متغيّر الطول في تضمين ثابت الحجم (768 بُعداً عادةً). هذا الضغط فقودٌ بطبيعته — لا يمكنه الاحتفاظ بكل تفصيلة. لكنّ ما يحتفظ به هو الجوار الدلالي العام: الموضوع، والمجال، ونوع المحتوى.

خذ مثلاً ادّعاءً مثل «خلع ضرس العقل يستغرق 47 دقيقة بالضبط» — هذه تفصيلة محدّدة تذوب في عملية الضغط. لكنّ الإشارة الدلالية الأعمّ — «هذا نصّ يتحدّث عن إجراءات الأسنان ومدة العمليات» — تبقى محفوظة بمتانة. والنتيجة أنّ الاسترجاع يعثر على مستندات في الجوار الصحيح بصرف النظر عن الأرقام الملفّقة.

هذا هو مفتاح نجاح HyDE: عنق الزجاجة يعمل كمصفاة بين الهلوسة والاسترجاع — يُمرِّر الإشارة الدلالية ويحجب الضجيج الواقعي.

يختتم المؤلفون الورقة بتأمّل يستحق التوقّف عنده. في الأنظمة التقليدية، تُنمذَج الصلة بوصفها درجة عددية — دالة مُتعلَّمة تأخذ زوج استعلام ومستند وتُخرج رقماً. ما يفعله HyDE مختلف جوهرياً: مفهوم الصلة يُلتقَط عبر نموذج لغوي يُنتج مثالاً حيّاً لما يبدو عليه مستند ذو صلة.

وهذا يطرح سؤالاً عميقاً: هل درجات الصلة العددية في حقيقتها مجرد أثر إحصائي لقدرة فهم اللغة؟ إذا استطاع نموذج لغوي قويّ بما يكفي أن يُولّد نصّاً يحمل أنماط الصلة، واستطاع مُرمِّز بسيط أن يُرسي ذلك النصّ في متن حقيقي — هل نحتاج أصلاً إلى تعلّم درجات الصلة؟

لا يدّعي المؤلفون أنهم يملكون الإجابة، لكنّ النتائج تُشير إلى أنه كلما ازدادت النماذج اللغوية قوةً تضاءلت الحاجة إلى نمذجة الصلة بشكل صريح. الحدود بين استرجاع المعلومات وفهم اللغة الطبيعية آخذة في التلاشي.

الإسهام الأعمق لـ HyDE ليس نموذجاً بعينه، بل طريقة جديدة في التفكير. أظهر أنّ الاسترجاع لا يحتاج بالضرورة إلى نمذجة درجات الصلة صراحةً. نموذج لغوي يفهم الصلة ضمنياً — بقدرته على توليد نصّ يحمل سمات الإجابة ذات الصلة — يمكن أن يتكامل مع مطابقة بسيطة غير مُشرَف عليها ليُحقّق نتائج بمستوى أفضل الأنظمة. هذه الرؤية غيّرت نظرتنا إلى العلاقة بين توليد اللغة والاسترجاع الكثيف.