Gradual Unfreezing
فك التجميد التدريجي
تقنية ضبط دقيق تُذيب طبقات الشبكة العصبية واحدة تلو الأخرى بدءاً من الأعلى. في كل حقبة تُضاف طبقة جديدة إلى مجموعة الطبقات المتدرّبة، مما يمنع النسيان الكارثي بالسماح للطبقات العليا بامتصاص إشارة المهمة أولاً.
A fine-tuning technique that unfreezes neural network layers one at a time from top to bottom. Each epoch adds one more layer to the set of trainable layers, preventing catastrophic forgetting by letting upper layers absorb the task signal first.
Also translated asالإذابة التدريجية للطبقات
First appears in this corpus in: Universal Language Model Fine-Tuning for Text Classification (2018)
Appears in these papers