مُحسِّن شامبو

مُحسِّن تقريبي من الرتبة الثانية طوّره غوبتا وكورين وسينغر، يبني مصفوفة تكييف كرونيكية على شكل بلوكات لكل معلمة تنسور، فيقترب من مُحسِّنات المصفوفة الكاملة بتكلفة قابلة للتطوير، وأظهر تسارع تدريب النماذج الكبيرة.

An approximate second-order optimizer developed by Gupta, Koren, and Singer that builds a block-Kronecker preconditioner for each tensor parameter, approximating full-matrix optimizers at scalable cost and demonstrating training acceleration for large models.