في الأسس الرياضية للإحصاء النظري

في مطلع القرن العشرين كانت طريقة العزوم التي وضعها كارل بيرسون هي الأسلوب السائد لمطابقة التوزيع الإحصائي بالبيانات: طابقْ متوسط العيّنة بمتوسط المجتمع، وتباين العيّنة بتباين المجتمع، وهكذا. كانت طريقة عملية وبديهية، لكن فيشر رصد فيها خللين جوهريين:

• لا ضمان للمِثالية. مطابقة العزوم تُنتج مُقدِّرات متّسقة، لكن لم يُبرهن أحد أنها أدقّ المُقدِّرات الممكنة. بل أظهر فيشر حالات ملموسة تُهدر فيها مُقدِّرات العزوم معلوماتٍ ثمينة — حتى إن كفاءتها قد تنخفض إلى الصِّفر.

• لا فصل بين المفاهيم. كلمة «المتوسط» كانت تُشير إلى الكمّية الثابتة في المجتمع (المعلمة $\mu$) وإلى القيمة المحسوبة من البيانات ($\bar{x} = \frac{1}{n}\sum x_i$) في آنٍ واحد. من دون هذا التمييز لا يمكنك حتى صياغة مسألة التقدير بوضوح، فضلاً عن حلّها على النحو الأمثل.

بدأ فيشر من اللغة: سمِّ الأشياء بوضوح، وسيتبعها البناء النظري.

المعلمة كمّية ثابتة مجهولة تصف المجتمع الإحصائي وصفاً كاملاً — كالمتوسط الحقيقي $\mu$ أو الانحراف المعياري الحقيقي $\sigma$ في توزيع طبيعي. هي خاصّية المجتمع الافتراضي اللانهائي الذي وُلدت منه بياناتك، ولا يمكنك ملاحظتها مباشرةً أبداً.

الإحصاء هو أيّ دالة تُحسب من العيّنة المُشاهَدة — كالمتوسط الحسابي $\bar{x}$ أو الوسيط أو المدى — والهدف منها تقدير المعلمة. قيمته تتغيّر من عيّنة لأخرى لأنها تعتمد على البيانات التي صادف أن جمعتَها.

هذا الفصل يبدو بديهياً اليوم، لكنه قبل فيشر كان مصدر الالتباس الأكبر في الإحصاء. حين تملك هذا التمييز يمكنك أن تسأل بدقة: أيّ إحصاء هو أفضل مُقدِّر لأيّ معلمة؟ وما معنى «أفضل» تحديداً؟

وضع فيشر ثلاثة معايير للحكم على أي مُقدِّر. تخيّلها كثلاثة اختبارات متصاعدة في التطلُّب:

الاتّساق — الشرط الأساسي. حين تحسب الإحصاء من المجتمع الإحصائي بأكمله (لا من عيّنة) تحصل على المعلمة بالضبط. بعبارة مكافئة: كلما كبرت العيّنة اقترب التقدير من القيمة الحقيقية. هذا هو الحدّ الأدنى المقبول، فأيّ مُقدِّر لا يتقارب مع الحقيقة لا جدوى منه.

الكفاءة — من بين كل المُقدِّرات المتّسقة، المُقدِّر الكفء هو صاحب أصغر تباين ممكن في العيّنات الكبيرة؛ أي أنه يعصر أقصى دقة من كل نقطة بيانات. وقد أثبت فيشر أن تباين أي مُقدِّر غير متحيّز لا يمكن أن يقلّ عن حدّ أدنى — يُعرف اليوم بـحدّ كرامير-راو — والمُقدِّر الذي يبلغ هذا الحدّ هو المُقدِّر الكفء.

الكفاية — يكون الإحصاء كافياً لمعلمة ما إذا التقط كل المعلومات التي تحملها العيّنة عن تلك المعلمة. حين تعرف الإحصاء الكافي تصبح بقية البيانات عديمة الفائدة — لا تستطيع أن تضيف شيئاً جديداً عن المعلمة. الكفاية إذن تتعلّق بـالحفاظ على المعلومات: ضغط البيانات دون التفريط بأي معلومة ذات صلة.

قبل فيشر كانت الأداة السائدة للانتقال من البيانات إلى المعلمات هي ما يُعرف بـالاحتمال العكسي — أي تطبيق مبرهنة بايز مع توزيع سابق منتظم. رفض فيشر هذا المنهج لأسباب فلسفية: إذا كنت لا تعرف شيئاً حقاً عن معلمة ما، فليس من المشروع أن تُسند إليها توزيعاً احتمالياً.

بدلاً من ذلك قدّم دالة الأرجحية: لبيانات مُشاهَدة $x$، تُعرَّف أرجحية قيمة المعلمة $\theta$ بأنها $L(\theta) = P(x \mid \theta)$. الصيغة الرياضية هي نفسها صيغة الاحتمال، لكنّ اتجاه القراءة معكوس. الاحتمال يسأل: إذا عرفنا المعلمات، فما فرصة ظهور هذه البيانات؟ أمّا الأرجحية فتسأل: إذا شاهدنا هذه البيانات، فأيّ قيمة للمعلمة تُفسّرها على أفضل وجه؟

الفارق الجوهري أن الأرجحية ليست توزيعاً احتمالياً على $\theta$ — فهي لا تتكامل إلى 1 ولا تخضع لبديهيات الاحتمال. إنها مقياس نسبي: النسبة $L(\theta_1) / L(\theta_2)$ تُخبرك بمقدار تفوّق $\theta_1$ على $\theta_2$ في تفسير البيانات.

فكّر في دالة الأرجحية كأنك محقّق يراجع أدلة جريمة: البيانات (الأدلة) ثابتة لا تتغيّر، وأنت تجرّب كل مشتبهٍ به (كل $\theta$) لترى أيّهم يُفسِّر مسرح الجريمة على أفضل وجه. المشتبه الذي يجعل الأدلة أكثر معقوليةً هو تقدير الأرجحية القصوى.

الفكرة في تقدير الأرجحية القصوى بسيطة: اختر قيمة المعلمة $\hat{\theta}$ التي تجعل $L(\theta)$ أكبر ما يمكن. عملياً، من الأسهل تعظيم لوغاريتم الأرجحية $\ell(\theta) = \ln L(\theta)$، لأن حواصل الضرب تتحوّل إلى مجاميع بينما تبقى القيمة القصوى في الموضع نفسه.

لنأخذ توزيعاً طبيعياً بمتوسط مجهول $\mu$ وتباين معلوم $\sigma^2$. يكون لوغاريتم الأرجحية:

ادّعى فيشر — وبرهن إلى حدٍّ بعيد — أن تقدير الأرجحية القصوى يُنتج مُقدِّرات متّسقة وكفؤة مُقارَبيّاً، وكافية حين يوجد إحصاء كافٍ. ولهذا صار تقدير الأرجحية القصوى الأسلوب المرجعي للتقدير في العلوم كافّة. في تعلّم الآلة الحديث، تدريب النموذج يعني عادةً تعظيم لوغاريتم الأرجحية — أو بصورة مكافئة: تصغير الإنتروبيا التقاطعية.

قارن فيشر بين تقدير الأرجحية القصوى وطريقة العزوم لبيرسون، وأظهر أن العزوم قد تكون غير كفؤة: أي أنها أحياناً لا تستغلّ إلا جزءاً يسيراً من المعلومات المتاحة في البيانات.

خذ مثلاً مطابقة توزيع بيرسون من النوع الثالث. طريقة العزوم تُطابق العزوم الثلاثة الأولى للعيّنة بعزوم المجتمع ثم تحلّ المعادلات لاستخراج المعلمات. أظهر فيشر أن المُقدِّرات الناتجة قد يكون تباينها أكبر بكثير مما يعطيه تقدير الأرجحية القصوى — بل إن كفاءة مُقدِّر العزوم قد تهبط نحو الصِّفر في بعض الحالات. المُقدِّر متّسق (أي يتقارب مع الحقيقة) لكنه مُبذِّر (يتقارب ببطء لأنه يُهمل معلومات موجودة في البيانات).

هذا كان جوهر نقد فيشر: الاتّساق وحده لا يكفي. لا بدّ من المطالبة بالكفاءة أيضاً — وطريقة العزوم تسقط في هذا الاختبار.

كم من المعلومات تحملها عيّنةٌ عن معلمة ما؟ أجاب فيشر بعدد واحد: معلومات فيشر، وتُعرَّف بأنها القيمة المتوقعة لمربع دالة النتيجة — أي مشتقة لوغاريتم الأرجحية — أو بصورة مكافئة: سالب القيمة المتوقعة للمشتقة الثانية للوغاريتم الأرجحية.

تخيّل منحنى لوغاريتم الأرجحية كقمة تلّ. إذا كانت القمة حادّة (انحناء عالٍ) فإن أي إزاحة صغيرة في $\theta$ تُسقط الأرجحية بشكل حادّ — أي أن البيانات تُشير بوضوح إلى قيمة بعينها. أما إذا كانت القمة مسطّحة (انحناء منخفض) فقِيَم كثيرة للمعلمة تبدو متقاربة المعقولية — ما يعني أن البيانات لا تحسم كثيراً.

معلومات فيشر $I(\theta)$ تقيس ذلك الانحناء تحديداً، وهي تضع السقف الأعلى لدقة أي مُقدِّر من خلال ما يُعرف اليوم بـحدّ كرامير-راو: $\text{Var}(\hat{\theta}) \geq 1 / I(\theta)$.

في كل مرة تُدرَّب شبكة عصبية بتصغير الإنتروبيا التقاطعية فإنها في حقيقة الأمر تُجري تقدير أرجحية قصوى. وفي كل مرة يُبلِّغ باحث عن فترة ثقة فإن الرياضيات خلفها تعود إلى تعريفات فيشر لـالكفاءة والمعلومات. مفاهيم هذه الورقة جوهرية لدرجة أنها أصبحت شفّافة — كالهواء الذي يتنفّسه العلم.