Spectral Norm

أكبر قيمة مفردة لمصفوفة، وتمثّل أقصى معامل تكبير تُحدثه المصفوفة عند تطبيقها على متجه. في سياق تلاشي التدرّج، إذا كان النظيم الطيفي لمصفوفة يعقوبي أقل من 1 فإن التدرّج يتقلّص مع كل خطوة.

The largest singular value of a matrix, representing the maximum amplification factor when the matrix acts on a vector. In the vanishing gradient context, if the Jacobian's spectral norm is less than 1, gradients shrink at each step.