Mini-Batch Aware Regularization

تقنية تسوية تحسب معيار L2 فقط على معاملات السمات الموجودة في الدفعة الحالية بدلاً من جميع المعاملات، ممّا يجعل التسوية ممكنة عملياً عند التعامل مع مليارات المعاملات.

A regularization technique that computes the L2 norm only over parameters of features present in the current mini-batch, making regularization tractable at billion-parameter scale.