مُحسِّن لايون

مُحسِّن اكتشفته جوجل بالبحث التطوري في فضاء الخوارزميات، يعتمد على إشارة تحديث الزخم فقط، فيوفّر الذاكرة والحساب مقارنةً بآدم مع أداء منافس أو أفضل على تدريب النماذج البصرية واللغوية الكبيرة.

An optimizer discovered by Google via evolutionary search over algorithm space that relies only on the sign of a momentum-based update, saving memory and compute compared to Adam while matching or exceeding its performance on large-scale vision and language model training.