Fisher Information Matrix

مصفوفة تقيس حساسية توزيع مخرجات النموذج تجاه كل اتجاه في فضاء المعاملات. تُستخدم في نزول التدرُّج الطبيعي لإعادة قياس التدرجات وفقاً لانحناء سطح الخسارة، وتُعادل التوقع الرياضي للجداء الخارجي لمتجه تدرُّج دالة الاحتمال اللوغاريتمية.

A matrix that measures how sensitive the model's output distribution is to each parameter direction. Used in natural gradient descent to rescale gradients according to loss landscape curvature, equal to the expected outer product of the log-likelihood gradient vector.