UMAP: التقريب والإسقاط المنتظم للمتشعّبات لاختزال الأبعاد

نجح t-SNE في حلّ مشكلة التصوير بامتياز — إذ يُنتج خرائط تظهر فيها العناقيد المحلية واضحة وحادة الانفصال. لكن سرعان ما اصطدم الممارسون بعدة نقاط ضعف:

السرعة: حساب الاحتمالات الثنائية في t-SNE بتعقيد $O(n^2)$ يجعله بطيئاً. حتى مع تقريب بارنز-هت الذي يخفّض التعقيد إلى $O(n \log n)$، تصبح مجموعات البيانات التي تتجاوز مئات الآلاف من النقاط غير عملية.

البنية الشاملة: تباعد كولباك-لايبلر الذي يستخدمه t-SNE غير متناظر — يعاقب بشدة على إبعاد نقاط كانت متقاربة، لكنه لا يكاد يعاقب على تقريب نقاط كانت متباعدة. عملياً هذا يعني أنّ المواضع والأحجام النسبية للعناقيد في رسوم t-SNE لا يمكن الوثوق بها.

عدم دعم العيّنات الجديدة: عند وصول بيانات جديدة، لا بد من إعادة تشغيل t-SNE من الصفر. لا يوجد تحويل مُتعلَّم يمكن تطبيقه على نقاط لم تُشاهَد سابقاً.

الاقتصار على بُعدين أو ثلاثة: t-SNE صُمّم أصلاً للتصوير المرئي، واستخدامه لإنتاج تضمينات بخمسين بُعداً لخدمة مهام تعلّم آلي لاحقة ليس خياراً عملياً.

UMAP يعالج هذه القيود الأربع كلها، ويحافظ في الوقت نفسه على جودة العناقيد المحلية بمستوى يُضاهي t-SNE أو يتجاوزه.

ينطلق UMAP من فرضية قوية مفادها أنّ البيانات لا تملأ فضاءها عالي الأبعاد بشكل عشوائي، بل تقع على سطح منخفض الأبعاد أو بالقرب منه — هذا السطح هو ما نسمّيه المتشعّب، وهو سطح منحنٍ مغمور داخل فضاء أعلى أبعاداً. خذ سطح الأرض مثالاً: هو سطح ثنائي البُعد يعيش في فضاء ثلاثي الأبعاد، ورغم ذلك لا تحتاج سوى إحداثيتين — خط العرض وخط الطول — لتحديد أي موقع عليه.

الفكرة ذاتها تنطبق على بيانات الصور: مجموعة من صور الوجوه قد تعيش في فضاء بآلاف أبعاد البكسلات، لكنّ التغيّر الحقيقي فيها — كالوضعية والإضاءة وتعبيرات الوجه — لا يحتاج إلا إلى حفنة من الأبعاد. بمعنى آخر، هذه الصور تستقرّ على سطح منحنٍ داخل فضاء البكسلات.

الإطار الرياضي لـ UMAP يُترجم هذا الحدس بلغة الهندسة الريمانية: يفترض أنّ المتشعّب يبدو مسطّحاً تقريباً حول كل نقطة — تماماً كبقعة صغيرة من سطح الأرض — وأنّ البيانات موزّعة بانتظام على هذا المتشعّب. فرضية الانتظام هذه هي ما يمثّله حرف «U» في اسم UMAP.

هنا نصل إلى الفكرة الجوهرية في UMAP، ويمكن شرحها دون الحاجة إلى نظرية الفئات. تخيّل أنّ كل نقطة بيانات ترسم دائرة تُحيط بجيرانها الـ $k$ الأقرب. ولأنّ المتشعّب يتمدّد بدرجات مختلفة من منطقة إلى أخرى، فإنّ نصف قُطر كل دائرة يختلف: النقاط في المناطق الكثيفة دوائرها صغيرة، والنقاط في المناطق المتناثرة دوائرها كبيرة.

بعد ذلك تُعطي كل نقطة «قوة ارتباط» لكل جار من جيرانها: الجار الأقرب يحصل على قوة 1، ثم تتناقص القوة أُسِّيًّا كلّما ابتعدنا. هذا يشبه النواة الغاوسية في t-SNE، لكن مع فارق جوهري: قبل حساب التناقص الأُسّي، تُطرح مسافة الجار الأقرب أولاً. بهذا تصبح قوة الارتباط معتمدة على المسافة النسبية لا المطلقة — أي أنّها تتكيّف تلقائياً مع الكثافة المحلية.

الناتج مخطط ضبابي: كل حافة فيه تحمل وزناً بين 0 و1 يعبّر عن مدى ترابط نقطتين. في الطوبولوجيا تُسمّى هذه البنية مجموعة تبسيطية ضبابية. «ضبابية» لأنّ الروابط متدرّجة وليست ثنائية القيمة، و«تبسيطية» لأنّها تُبنى من أبسط المكوّنات: النقاط والحواف.

يحسب UMAP قوة الارتباط بين النقطة xᵢ وكل جار من جيرانها الـ $k$ الأقرب $x_j$ عبر نواة أُسِّية معدّلة. الابتكار الأساسي هنا هو طرح المقدار ρᵢ — أي المسافة من xᵢ إلى جارها الأقرب — قبل تطبيق التناقص الأُسّي. بهذه الطريقة يضمن UMAP أنّ كل نقطة لديها جار واحد على الأقل بقوة ارتباط كاملة، مهما كانت الكثافة المحلية.

كل نقطة xᵢ تُنتج رؤيتها الخاصة الموجَّهة للعالم من حولها. ولدمج هذه الرؤى جميعاً في مخطط واحد غير موجَّه، يلجأ UMAP إلى اتحاد المجموعات الضبابية (مُكمّل t الاحتمالي) بدلاً من حساب المتوسط البسيط. المنطق بسيط: إذا اعتبرت أيّ من النقطتين أنّ الأخرى جارة لها، فينبغي أن يكون بينهما ارتباط.

على الجانب المنخفض الأبعاد، يحتاج UMAP إلى دالة سلسة تحوّل المسافات بين النقاط المُسقَطة إلى قوى ارتباط. يعتمد لذلك على عائلة من المنحنيات تتحكّم فيها ثوابت $a$ و$b$ تُضبط لتوافق قيمة المُعامل الفائق min_dist.

حين تكون min_dist صغيرة، يقترب المنحنى من نواة ستيودنت-t المعروفة في t-SNE. وحين تكون أكبر، يستوي المنحنى قرب القيمة 1 للمسافات الصغيرة ثم ينحدر — ممّا يفصل النقاط المتكدّسة ويُنتج تصويراً أوضح.

هنا يظهر الاختلاف الأبرز بين UMAP وt-SNE. كلتا الخوارزميتين تسعيان إلى مطابقة أوجه التشابه في الأبعاد المنخفضة مع نظيراتها في الأبعاد العالية، لكنّ t-SNE يعتمد تباعد كولباك-لايبلر الذي لا يعاقب إلا على نوع واحد من عدم التطابق: أن تبتعد نقاط كانت قريبة ($p$ كبير و$q$ صغير). أما تقريب نقاط كانت بعيدة فلا يكاد يُحاسب عليه.

في المقابل يستخدم UMAP الإنتروبيا التقاطعية التي تعاقب على كلا الاتجاهين. حين يكون هناك ارتباط قوي بين نقطتين ($v_{ij}$ مرتفع) لكنهما بعيدتان في التضمين ($w_{ij}$ منخفض)، يشدّهما الحد الأول نحو بعضهما. وحين لا يكون بينهما ارتباط ($v_{ij}$ منخفض) لكنهما متقاربتان أكثر مما ينبغي ($w_{ij}$ مرتفع)، يدفعهما الحد الثاني بعيداً.

هذه العقوبة المتوازنة في الاتجاهين هي تحديداً ما يجعل UMAP يحفظ البنية الشاملة أفضل من t-SNE.

في UMAP مُعاملان فائقان رئيسيان يستحقّان الفهم بعمق:

n_neighbors (عادةً 5–50، والافتراضي 15): يحدّد عدد الجيران الذين يُعرّفون مفهوم «المحلي». القيم الصغيرة تكشف البنية الدقيقة فترى العناقيد الفرعية والتفاصيل الصغيرة، بينما القيم الكبيرة تلتقط أنماطاً أوسع فتندمج العناقيد الفرعية في مجموعات أكبر. يُشبه هذا المُعامل دور الحيرة الاحتمالية في t-SNE.

min_dist (عادةً 0.0–0.99، والافتراضي 0.1): يتحكّم في مدى تراصّ النقاط في التضمين. القيم الصغيرة تُخرج عناقيد كثيفة ومحكمة تُسهّل تمييز البنية الدقيقة، والقيم الكبيرة تنشر النقاط فتُنتج تضميناً أكثر تجانساً يتجنّب التراكب.

بصورة مبسّطة: n_neighbors يتحكّم فيما يراه UMAP — أي مقياس البنية التي ينظر إليها — بينما min_dist يتحكّم في شكل المخرجات النهائية على الرسم.

في t-SNE تُحسب القوى بين جميع أزواج النقاط في كل تكرار — وهذا بالضبط عنق الزجاجة الذي يجعله بطيئاً. اتّخذ UMAP نهجاً مختلفاً تماماً مستعيراً فكرة من تدريب تضمينات الكلمات (تقنية أخذ العيّنات السلبية في Word2Vec).

في كل تكرار يسحب UMAP مجموعة من الحواف من المخطط الضبابي. مع كل حافة مسحوبة — وهي زوج «جاذب» — يسحب أيضاً بضعة أزواج عشوائية من غير الجيران تمثّل العيّنات «السلبية». ثم يطبّق الانحدار التدريجي العشوائي: الأزواج الجاذبة تُقرَّب من بعضها، والأزواج السلبية تُبعَد.

بهذا لا يمسّ كل تكرار إلا شريحة صغيرة من مجمل الأزواج، فتنخفض الكلفة الحسابية لكل تكرار إلى $O(k \cdot n)$ بدلاً من $O(n^2)$. وحين يُقرن ذلك بالبحث عن الجار الأقرب التقريبي (عبر خوارزميات مثل NN-Descent) لبناء المخطط الأولي، يحقق UMAP تسريعات هائلة.

تسير خوارزمية UMAP في مرحلتين أساسيتين: الأولى بناء تمثيل طوبولوجي ضبابي للبيانات في فضائها عالي الأبعاد، والثانية تحسين التضمين في الأبعاد المنخفضة حتى يطابق ذلك التمثيل.

كلا الخوارزميتين — UMAP وt-SNE — تُحسّنان دالة هدف قائمة على الجوار، لكنّ الفروقات بينهما ذات أثر عملي كبير:

الأساس الرياضي: t-SNE ينطلق من مطابقة الاحتمالات بأسلوب تجريبي، أما UMAP فمؤسّس على الهندسة الريمانية والطوبولوجيا الجبرية — وإطار المجموعات التبسيطية الضبابية يوفّر ضمانات نظرية حول حفظ بنية المتشعّب.

دالة الكُلفة: t-SNE يعتمد تباعد كولباك-لايبلر الذي يعاقب فقط على الفصل الخاطئ. UMAP يعتمد الإنتروبيا التقاطعية التي تعاقب على الفصل الخاطئ والتقريب الخاطئ معاً — وهذا سرّ حفاظه على البنية الشاملة.

التناظر: t-SNE يحسب متوسط الاحتمالات الاتجاهية، بينما UMAP يأخذ اتحادها الضبابي الذي يحفظ ترابط المناطق المتناثرة على نحو أفضل.

الأمثَلة: t-SNE يُجري انحداراً تدريجياً على جميع الأزواج. UMAP يستخدم الانحدار التدريجي العشوائي مع أخذ العيّنات السلبية على الحواف فقط — وهذا مصدر تفوّقه في السرعة.

القابلية للتوسّع: t-SNE عملي حتى نحو 100 ألف إلى مليون نقطة مع تقريب بارنز-هت. UMAP يتعامل مع الملايين بارتياح.

أبعاد التضمين: أداء t-SNE يتراجع في أبعاد أعلى من 3. UMAP يعمل بكفاءة في 10 أو 50 أو حتى 100 بُعد — ممّا يجعله مفيداً كخطوة اختزال أبعاد عامة قبل مهام أخرى.

تضمين العيّنات الجديدة: t-SNE لا يملك آلية لذلك. UMAP يستطيع إسقاط نقاط جديدة مستفيداً من بنية المخطط التي تعلّمها.

قراءة رسوم UMAP: على خلاف t-SNE، المواضع والمسافات النسبية بين العناقيد في رسوم UMAP تحمل بعض الدلالة. العناقيد المتقاربة في فضاء UMAP تميل لأن تكون أكثر تشابهاً في الفضاء الأصلي، لكن ينبغي التعامل مع المسافات الدقيقة بين العناقيد بحذر.

اختيار n_neighbors: القيمة الافتراضية 15 نقطة انطلاق جيدة. إذا أردت الكشف عن عناقيد فرعية دقيقة، قلّل إلى 5–10. وإذا أردت نظرة شاملة تدمج التفاصيل، ارفع إلى 30–50. جرّب عدة قيم للتمييز بين البنية الحقيقية والنتائج المُصطنعة — تماماً كما تفعل مع الحيرة الاحتمالية في t-SNE.

اختيار min_dist: للاستكشاف الأولي، 0.1 خيار مناسب. لمهام التعنقد اللاحقة، جرّب 0.0 لعناقيد أكثف ما يمكن. للرسوم المُعدّة للنشر، 0.25–0.5 تتجنّب تراكب النقاط.

الاستخدام كمعالجة أولية: UMAP ليس أداة تصوير فحسب. اختزال الأبعاد إلى 10–50 بُعداً قبل تشغيل k-means أو HDBSCAN أو أي مُصنِّف يُحسّن النتائج في الغالب ويُقلّص وقت الحساب بفارق ملموس.

قابلية الإعادة: اضبط random_state للحصول على نتائج حتمية. UMAP أكثر استقراراً من t-SNE بين تشغيلة وأخرى، لكنّ العشوائية في التهيئة وفي الانحدار التدريجي العشوائي تظل تؤثر في المخرجات.

إسهام UMAP يمتدّ إلى أبعد من كونه نسخة أسرع من t-SNE. بتأسيس اختزال الأبعاد على الطوبولوجيا، أرسى UMAP مبدأً مهماً: الطريقة الصحيحة لمقارنة الجوار ليست بحساب المسافات بين الأزواج، بل بفحص الترابط ذاته — أيّ النقاط مترابطة أصلاً وما مدى قوة هذا الترابط. هذا المنظور الطوبولوجي ترك أثره في أعمال لاحقة في التعلم العميق الهندسي وفي تحليل التمثيلات.