المعجم

مُلائمات منخفضة الرتبة

Low-Rank Adapters

مصفوفات صغيرة قابلة للتدريب (A و B) تُحقن بجانب الأوزان المُجمَّدة للنموذج، حيث يُقرَّب تغيير الأوزان ΔW بجداء مصفوفتين منخفضتي الرتبة: ΔW = BA والرتبة r أصغر بكثير من أبعاد المصفوفة الأصلية.

Small trainable matrices (A and B) injected alongside frozen model weights, where the weight change ΔW is approximated by the product of two low-rank matrices: ΔW = BA with rank r much smaller than the original matrix dimensions.

تُرجم أيضاًLoRA، المُلائمات ذات الرتبة المنخفضة

أول ظهور في هذه المجموعة: قوة التوسيع في ضبط المحثّات الموفِّر للمعاملات (2021)

يظهر في هذه الأوراق