السَّمْت

الرياضيات1901تأسيسي10 دقيقة قراءة

عن الخطوط والمستويات الأقرب ملاءمةً لمنظومات النقاط في الفضاء

On Lines and Planes of Closest Fit to Systems of Points in Space

Pearson, K. — Philosophical Magazine

المشكلة

في أواخر القرن التاسع عشر كان الباحثون يقيسون عشرات المتغيرات لكل ملاحظة — أبعاد الجماجم، قراءات الطقس، سمات بيولوجية — فيجدون أنفسهم أمام سُحُب من النقاط في فضاءات عالية الأبعاد دون طريقة منهجية لإيجاد الخط أو المستوي أو المستوي الفائق الذي يلخّصها. أسلوب المعروف آنذاك كان يصغّر المسافات الرأسية إلى خط، أي يفترض أنّ متغيراً بعينه هو «الناتج» وبقية المتغيرات مدخلات. لكن حين تتساوى أهمية جميع المتغيرات — حين يكون الهدف تلخيصاً هندسياً خالصاً — لا يصحّ قياس المسافة رأسياً. كانت الحاجة قائمة لمعيار هندسي جديد يعامل كل المتغيرات بتماثل تام.

الإسهام

اقترح بيرسون أن يُقاس مدى ملاءمة الخط أو المستوي بمجموع مربعات المسافات العمودية من كل نقطة إليه، بحيث لا يُميَّز متغير عن آخر. واعتماداً على التفاضل وحده — إذ لم يكن جبر المصفوفات متاحاً بعد — أثبت أنّ خط الملاءمة الأمثل يمرّ بمركز ثقل البيانات ويشير نحو اتجاه الأعظم، وأنّ المستوي الأمثل يحوي الاتجاهين الأعلى تبايناً، وهكذا لأبعاد أعلى. هذا أول وصف رياضي منهجي لما نسمّيه اليوم تحليل المكوِّنات الرئيسية (PCA). والنتيجة المفتاحية: الاتجاهات التي تعظّم انتشار البيانات هي ذاتها التي تصغّر خطأ إعادة البناء.

الأثر

أصبح تحليل المكوِّنات الرئيسية من أوسع الخوارزميات انتشاراً في العلوم كافة. في تعلّم الآلة يُستخدم خطوةَ تمهيدٍ للبيانات عالية الأبعاد، وأداةَ تصوّرٍ بصري للمجموعات المعقّدة، وهو السلف المفاهيمي للمرمّزات التلقائية وتعلّم التمثيلات. كل تقنية حديثة لاختزال الأبعاد — من kernel PCA إلى t-SNE إلى UMAP — تنطلق من سؤال بيرسون الهندسي أو تبني عليه. وبعد أكثر من قرن، لا يزال تحليل المكوِّنات الرئيسية أول أداة يمدّ إليها الباحث يده حين تحمل بياناته أبعاداً أكثر ممّا يمكن التعامل معه مباشرة.

تخيّل مصوِّرة تريد توثيق تمثال بصورة واحدة فقط — زاوية واحدة لا غير. تدور حول التمثال باحثةً عن الزاوية التي تكشف أكبر قدر من التفاصيل: الظل الجانبي الأعرض، حيث لا تتراكب الملامح ولا يختفي بعضها خلف بعض.

تلك «الزاوية المثلى» هي الأول. أما الزاوية الثانية — التي تكشف أكبر قدر من التفاصيل الإضافية وتكون متعامدة مع الأولى — فهي المكوِّن الرئيسي الثاني. ورقة بيرسون هي الإجابة الرياضية على سؤال: «من أيّ زاوية ينبغي أن تلتقط المصوِّرة صورتها؟»

المشكلة: كيف تلخّص سحابة من النقاط؟

لنفترض أنّك قستَ الطول والوزن لمئتي شخص — ستحصل على 200 نقطة في بعدين. أضف الآن العمر وضغط الدم والكوليسترول، فتصبح لديك 200 نقطة في خمسة أبعاد. البيانات باتت تعيش في فضاء أكبر من أن تراه العين.

تريد ملخّصاً: خطاً أو سطحاً مستوياً يخترق سحابة البيانات ويلتقط شكلها العام. لكن ما معيار «أفضل ملاءمة»؟

الأسلوب المعتاد — انحدار المربعات الصغرى — يبحث عن الخط الذي يصغّر المسافات الرأسية، أي يعامل متغيراً واحداً بوصفه ناتجاً والبقية مدخلات. هذا يصلح للتنبؤ، لكنه لا يصلح لتلخيص سحابة تتساوى فيها أهمية المتغيرات: لو بدّلتَ المحور «الرأسي» لحصلتَ على خط مختلف.

فكرة بيرسون المحورية: غيِّر طريقة القياس نفسها. بدلاً من المسافة الرأسية، قِس — أي أقصر مسافة من كل نقطة إلى الخط. بهذه الطريقة لا يُمَيَّز متغير عن آخر. الخط الذي يصغّر مجموع مربعات هذه المسافات العمودية هو المحور الهندسي الحقيقي للبيانات.

افتح في المختبر
اسحب الخط لتدويره. راقب كيف يتغير مجموع مربعات المسافات العمودية — الحد الأدنى هو المكوِّن الرئيسي الأول.
تستيقظ التجربة عند وصولك…

الرؤية المزدوجة: أقل مسافة = أكبر انتشار

توصّل بيرسون إلى علاقة أنيقة: الخط الذي يصغّر المسافات العمودية هو نفسه الخط الذي يعظّم التباين — أي انتشار إسقاطات النقاط عليه.

كيف؟ السرّ في مبرهنة فيثاغورس. مربع بُعد كل نقطة عن مركز البيانات ينقسم تماماً إلى حدّين: مربع على الخط، ومربع المسافة العمودية إلى الخط. ومجموع هذه المربعات لجميع النقاط مقدار ثابت — يعتمد على البيانات لا على الخط. لذلك كلّما تقلّص الجزء العمودي كبر جزء الإسقاط بالمقدار نفسه تماماً:

المجموع الكلي (ثابت) = التباين على طول الخط + الخطأ العمودي

إذن تصغير الخطأ وتعظيم التباين عملية واحدة لا عمليتان. ليسا معيارين منفصلين بل وجهان لعملة واحدة تجمعهما نظرية فيثاغورس.

∑i=1n∥xi−xˉ∥2=∑i=1nproji2+∑i=1nperpi2\sum_{i=1}^{n} \|\mathbf{x}_i - \bar{\mathbf{x}}\|^2 = \sum_{i=1}^{n} \text{proj}^2_i + \sum_{i=1}^{n} \text{perp}^2_i
تحليل فيثاغورس — جوهر تحليل المكوِّنات الرئيسية — مجموع مربعات البُعد عن المتوسط (ثابت) = تباين الإسقاطات على الخط + مجموع مربعات الأخطاء العمودية. تعظيم أحد الطرفين يصغّر الآخر تلقائياً.
افتح في المختبر
شاهد تحليل فيثاغورس حيّاً — كلما كبر أحد العمودين تقلّص الآخر بالمقدار ذاته تماماً.
تستيقظ التجربة عند وصولك…

الوصفة: مصفوفة التباين المشترك ← المتجهات الذاتية ← المكوِّنات الرئيسية

حلّ بيرسون المسألة بالتفاضل. الصياغة الحديثة التي قدّمها هوتيلنغ عام 1933 تعيد التعبير عن الحل نفسه بلغة الجبر الخطي، وتمرّ بثلاث خطوات:

الخطوة 1 — البيانات. اطرح متوسّط كل متغير بحيث يصبح مركز السحابة عند نقطة الأصل. هذا يضمن مرور خط الملاءمة الأمثل عبر المركز.

الخطوة 2 — حساب . هذه المصفوفة المتماثلة Σ\Sigma تصف كيف يتغيّر كل زوج من المتغيرات معاً. عناصر القُطر هي تباينات المتغيرات المنفردة، وعناصر خارج القُطر هي التباينات المشتركة بين كل زوج. يمكن اعتبارها خارطة مضغوطة لشكل السحابة.

الخطوة 3 — إيجاد و لـ Σ\Sigma. كل متجه ذاتي يشير إلى اتجاه رئيسي — محور من محاور الشكل البيضاوي للسحابة — وقيمته الذاتية تخبرك بمقدار التباين المتركّز على ذلك المحور. المتجه ذو القيمة الذاتية الأكبر هو المكوِّن الرئيسي الأول (PC1)، يليه الثاني (PC2)، وهكذا. جميع هذه المتجهات — عمودية على بعضها — فتُشكّل نظام إحداثيات نظيفاً لا تداخل فيه.

Σ=1n∑i=1n(xi−xˉ)(xi−xˉ)⊤\Sigma = \frac{1}{n} \sum_{i=1}^{n} (\mathbf{x}_i - \bar{\mathbf{x}})(\mathbf{x}_i - \bar{\mathbf{x}})^\top
مصفوفة التباين المشترك — خارطة مضغوطة لشكل البيانات — كل عنصر Σᵢⱼ يقيس مدى تغيّر المتغيرين i وj معاً. المتجهات الذاتية لهذه المصفوفة هي اتجاهات المكوِّنات الرئيسية، والقيم الذاتية هي التباينات على طولها.
Σv=λv\Sigma \mathbf{v} = \lambda \mathbf{v}
معادلة القيمة الذاتية — إيجاد محاور الشكل البيضاوي — v هو المتجه الذاتي (اتجاه رئيسي)، وλ قيمته الذاتية (التباين على طول ذلك الاتجاه). رتّب تنازلياً بحسب λ تحصل على المكوِّنات الرئيسية مرتّبة حسب أهميتها.
افتح في المختبر
اسحب النقاط لتغيير شكل السحابة وراقب تحديث المتجهات الذاتية (الأسهم) والقيم الذاتية لحظياً.
تستيقظ التجربة عند وصولك…

اختزال الأبعاد: الإبقاء على المهم والتخلّي عن الضجيج

بعد ترتيب المكوِّنات الرئيسية بحسب تباينها، تأتي الفائدة العملية: أبقِ على أعلى kk مكوِّن وتخلّص من البقية.

إذا التقط المكوِّنان الأولان مثلاً 95% من التباين الكلي، فالأبعاد المتبقية ضجيج في معظمها — حذفها لا يكاد يغيّر بنية البيانات. تكون قد انتقلتَ مثلاً من 100 بُعد إلى بُعدين فقط، وأصبح بإمكانك رسم البيانات ورؤيتها بالعين.

هذا هو . المكوِّنات المُحتفَظ بها (عددها kk) تُشكّل نظام إحداثيات جديداً — أقل أبعاداً — تُسقَط عليه كل نقطة. هذا الإسقاط يصغّر خطأ إعادة البناء (بمعيار بيرسون) ويعظّم (بمعيار هوتيلنغ). والنتيجة: أفضل ضغط خطي ممكن للبيانات في kk بُعد.

افتح في المختبر
شاهد بيانات ثلاثية الأبعاد تُضغط إلى بُعدين ثم بُعد واحد. شريط النسبة يوضّح مقدار التباين المُحتفَظ به في كل خطوة.
تستيقظ التجربة عند وصولك…

تحليل المكوِّنات الرئيسية خطوة بخطوة

فيما يلي عرض تفاعلي كامل لتحليل المكوِّنات الرئيسية على مجموعة بيانات صغيرة ثنائية الأبعاد. انقر على الخطوات لترى كيف تتحوّل البيانات الخام إلى مكوِّنات رئيسية:

افتح في المختبر
تابع خطوات التحليل الكاملة على بيانات حية.
تستيقظ التجربة عند وصولك…

الفكرة نفسها بالبرمجة

تحليل المكوِّنات الرئيسية من الصفر بـ NumPypython

مبسَّط لإظهار الفكرة — ليس التنفيذ الحقيقي.

import numpy as np

def pca(X, k):
    """اختزل مصفوفة بيانات n×d إلى n×k باستخدام PCA.

    1. وسّط البيانات (اطرح متوسط كل عمود).
    2. احسب مصفوفة التباين المشترك.
    3. أوجد المتجهات الذاتية (الاتجاهات الرئيسية) والقيم الذاتية (التباينات).
    4. أسقط البيانات على أعلى k اتجاه.
    """
    # الخطوة 1: التوسيط
    mean = X.mean(axis=0)
    X_centered = X - mean

    # الخطوة 2: مصفوفة التباين المشترك (d × d)
    cov = (X_centered.T @ X_centered) / (len(X) - 1)

    # الخطوة 3: التحليل الذاتي — رتّب تنازلياً بحسب القيمة الذاتية
    eigenvalues, eigenvectors = np.linalg.eigh(cov)
    order = np.argsort(eigenvalues)[::-1]
    eigenvalues = eigenvalues[order]
    eigenvectors = eigenvectors[:, order]

    # الخطوة 4: أسقط على أعلى k مكوِّن رئيسي
    W = eigenvectors[:, :k]          # مصفوفة إسقاط d × k
    X_reduced = X_centered @ W       # n × k (البيانات المختزلة)

    # كم تبايناً احتفظنا به؟
    explained = eigenvalues[:k].sum() / eigenvalues.sum()
    print(f"احتفظنا بـ {explained:.1%} من التباين الكلي باستخدام {k} مكوِّن")

    return X_reduced, W, eigenvalues

# هذا كل شيء. فكرة بيرسون الهندسية في 15 سطراً.
# مكتبة scikit-learn تفعل الشيء نفسه (عبر SVD لتسريع الحساب).

نقاط القوة والقيود

صمد تحليل المكوِّنات الرئيسية أكثر من قرن لأنه بسيط وسريع ومثالي ضمن الأساليب الخطية. يمتلك — لا حاجة لأمثلة تكرارية — ويتوسّع بكفاءة مع البيانات الكبيرة، ونتائجه قابلة للتفسير: كل مكوِّن رئيسي تركيبة موزونة من المتغيرات الأصلية، فيمكنك أن تسأل «ما الذي يحرّك هذا المحور؟»

لكنه خطّي. يجد فضاءات فرعية مسطّحة فحسب. إن كانت بياناتك تقع على سطح منحنٍ — كالحلزون أو المعقّد — فسيفوت التحليلَ الهيكلُ بالكامل. لهذا ظهرت الامتدادات اللاخطية مثل kernel PCA وt-SNE وUMAP و العميقة. كلٌّ منها يطرح سؤال بيرسون الأصلي — «أيّ فضاء فرعي يمثّل هذه النقاط أفضل تمثيل؟» — لكنه يسمح للإجابة بأن تكون منحنية.

يفترض التحليل أيضاً أنّ التباين يعني الأهمية. في بعض المسائل تكمن البنية الأكثر إثارة في الاتجاهات منخفضة التباين — أحداث نادرة أو إشارات خفية — وسيتخلّص التحليل من هذه الاتجاهات تحديداً. رغم ذلك يظل الخطوة الأولى الافتراضية: سريع الحساب ويكشف لك مقدار البنية الخطية في بياناتك قبل أن تلجأ إلى أدوات أثقل.

لماذا كانت هذه الورقة مهمة

  1. 1901

    بيرسون — الخطوط والمستويات الأقرب ملاءمةً

    طرح كارل بيرسون السؤال الهندسي وحلّه بالتفاضل. أول وصف رياضي منهجي لما يُسمّى اليوم تحليل المكوِّنات الرئيسية.

  2. 1933

    هوتيلنغ — التحليل الحديث عبر التفكيك الذاتي

    أعاد هارولد هوتيلنغ صياغة التحليل مستخدماً مصفوفة التباين المشترك والمتجهات الذاتية، وقدّم الأسلوب الحوسبي الذي لا يزال مستخدماً حتى اليوم.

  3. 1960

    أول تصوّر بصري بالمكوِّنات الرئيسية

    نشر جوليكور وموزيمان أقدم إسقاط ثنائي الأبعاد معروف بالمكوِّنات الرئيسية، إذ حلّلا قياسات أصداف السلاحف — وكانت تلك بداية استخدام التحليل أداةً للاستكشاف البصري.

  4. 1998

    Kernel PCA — ما وراء الخطوط المستقيمة

    وسّع شولكوف وسمولا ومولر التحليل إلى السطوح اللاخطية عبر دوال النواة (kernel)، فأصبح قادراً على التقاط البنى المنحنية التي يعجز عنها التحليل الخطي.

  5. 2006

    هينتون — المرمّزات التلقائية العميقة تعمّم التحليل

    أظهر هينتون وسالاخوتدينوف أنّ المرمّزات التلقائية العميقة تتفوّق على التحليل الخطي في اختزال الأبعاد، لأنها تتعلّم سطوحاً رئيسية منحنية بدلاً من مستويات مسطّحة.

  6. 2008

    t-SNE — تصوّر بصري يتجاوز PCA

    قدّم فان در ماتن وهينتون خوارزمية t-SNE للتصوّر ثنائي الأبعاد، وتتميّز بحفاظها على بنية الجوار المحلي التي يعجز الإسقاط الخطي الشامل عن التقاطها.

  7. 2018

    UMAP — تضمينات لاخطية سريعة على نطاق واسع

    جمع ماكينيس وهيلي وميلفيل بين النظرية الطوبولوجية والأمثلة السريعة، فجعلا اختزال الأبعاد اللاخطي عملياً حتى مع ملايين النقاط.

  8. 2026

    PCA اليوم — لا يزال الخطوة الأولى

    لا يزال تحليل المكوِّنات الرئيسية خطوة التمهيد الأولى في علم الجينوم والتمويل ومعالجة اللغة الطبيعية والرؤية الحاسوبية. كل مرمّز تلقائي وكل نموذج توليدي تبايني وكل أداة اختزال أبعاد تعود جذورها إلى سؤال بيرسون الهندسي.

لم يكتفِ بيرسون بإيجاد خط يخترق سحابة نقاط. ما أثبته أعمق من ذلك: للبيانات هندسة داخلية — محاور تميل البيانات بطبيعتها إلى الانتشار عليها — ومبدأ هندسي بسيط يستطيع الكشف عنها دون أي إشراف. في كل مرة تضغط فيها منظومة بيانات أو تصوّرها أو تزيل ضجيجها، فهي تبني على هذا الأساس الذي مضى عليه أكثر من قرن.

المرجعPearson, K.. On Lines and Planes of Closest Fit to Systems of Points in Space. Philosophical Magazine, 1901.

مصطلحات هذه الورقة