دالة التوزيع التراكمي

دالة تُعطي احتمال أن يأخذ متغير عشوائي قيمةً أقل من أو تساوي قيمة معيّنة. في سياق GELU، تُستخدم دالة التوزيع التراكمي للتوزيع الطبيعي المعياري Φ(x) كآلية ترجيح سلسة.

A function giving the probability that a random variable takes a value less than or equal to a given value. In the context of GELU, the CDF of the standard normal distribution Φ(x) serves as a smooth weighting mechanism.