softsign

دالة تنشيط تُعرّف بـ f(x) = x/(1+|x|)، مخرجاتها في (-1, 1) مثل tanh لكن أذيالها تتلاشى كثيريّاً (∝ 1/x²) لا أُسِّيّاً، مما يمنع الإشباع الحاد ويُبقي التدرّجات حيّة لفترة أطول.

An activation function defined as f(x) = x/(1+|x|), with outputs in (-1, 1) like tanh but with polynomial tails (∝ 1/x²) rather than exponential, preventing hard saturation and keeping gradients alive longer.