مُطابقة التدفق للنمذجة التوليدية

التدفق المعياري المستمر يتعلّم حقل سرعة يدفع توزيعاً بسيطاً (كـالتوزيع الغاوسي) نحو توزيع البيانات المعقّد، وذلك بحلّ معادلة تفاضلية عادية. الفكرة أشبه بتيّار نهري: كل نقطة في الفضاء تحمل سهماً يُحدّد وجهتها، وحين تتّبع كل النقاط أسهمها من اللحظة $t{=}0$ إلى $t{=}1$ يتحوّل الضجيج إلى بيانات ذات معنى.

قبل هذه الورقة، كانت مشكلة تدريب التدفقات المعيارية المستمرة تظهر على وجهين. الأول أنّ التدريب بـأقصى أرجحية يتطلّب محاكاة المعادلة التفاضلية بأكملها في كل خطوة تدريبية لحساب تغيُّر لوغاريتم الكثافة — وهذا يشمل حساب أثر مصفوفة جاكوبي لحقل السرعة، وهي عملية مُرهقة حسابياً في الأبعاد العالية. الوجه الثاني أنّ نماذج الانتشار وجدت اختصاراً خالياً من المحاكاة عبر مطابقة الدالة المُسجِّلة، لكنّ هذا الاختصار فرض مسارات احتمالية منحنية بعينها (جداول VP وVE) تحتاج إلى مئات الخطوات عند أخذ العيّنات.

ما كان ينقص الميدان هو طريقة تدريب تجمع ميزتين: أن تكون خالية من المحاكاة (كمطابقة الدالة المُسجِّلة) وأن تكون حرّة في اختيار المسار (على عكسها). مُطابقة التدفق هي هذه الطريقة.

الفكرة الجوهرية في مُطابقة التدفق بسيطة بشكل مُدهش. عوضاً عن تدريب التدفق المعياري المستمر بمحاكاته (وهو أمر مكلف)، أو بـمطابقة الدالة المُسجِّلة (التي تُقيّد المسار)، نقوم مباشرة بـالانحدار على حقل السرعة. نُحدّد مساراً احتمالياً مستهدفاً $p_t$ ينتقل من الضجيج عند $t{=}0$ إلى البيانات عند $t{=}1$، ونُحدّد حقل متجهات مستهدفاً $u_t$ هو الذي يُولّد هذا المسار. ثم ندرّب شبكة عصبية $v_\theta$ لتتنبّأ بقيمة $u_t$ في كل نقطة.

دالة الخسارة المثالية هي هدف مُطابقة التدفق — وهي ببساطة متوسط مربع الخطأ بين حقل السرعة الذي تتنبّأ به الشبكة وحقل السرعة المستهدف:

لكن هنا تظهر عقبة: حقل السرعة الهامشي $u_t(x)$ مُستعصٍ حسابياً. لأنّ حسابه يتطلّب تكاملاً على توزيع البيانات بأكمله، وهو ذاته الشيء الذي نسعى لتعلُّمه. وهنا بالذات يظهر الاختراق النظري الذي تُقدّمه الورقة.

البصيرة التي تجعل كل شيء يعمل هي التالية: بدلاً من الانحدار على حقل السرعة الهامشي المُستعصي $u_t(x)$، ننحدر على حقل السرعة المشروط $u_t(x | x_1)$ — أي السرعة التي تنقل الضجيج نحو نقطة بيانات واحدة $x_1$. خسارة مُطابقة التدفق المشروطة (CFM) هي:

لماذا ينجح هذا الأسلوب؟ تُثبت الورقة (المبرهنة 2) أنّ خسارة مُطابقة التدفق وخسارة مُطابقة التدفق المشروطة تمتلكان تدرّجات متطابقة بالنسبة لمعاملات الشبكة $\theta$. الفكرة هنا من النوع ذاته الذي يقف خلف مطابقة الدالة المُسجِّلة بإزالة الضجيج: كل هدف مشروط بمفرده قد يُشير في اتجاه مختلف (لأنه يسحب نحو نقطة بيانات واحدة)، لكن حين نأخذ متوسط هذه الاتجاهات على جميع نقاط البيانات نحصل على الاتجاه الهامشي الحقيقي.

تصوَّر الأمر كأنك تسأل حشداً من الناس: «أين المَخرج؟» — كل شخص يُشير بإصبعه في اتجاه مختلف قليلاً، لكن حين تُحسب متوسط كل الأصابع تحصل على الاتجاه الصحيح. كل حقل سرعة مشروط يُشبه إصبعاً واحداً، والحقل الهامشي هو متوسط كل الأصابع.

مُطابقة التدفق تعمل مع أيّ مسار احتمالي، لكنّ الورقة تُركّز على المسارات المشروطة الغاوسية — والسبب أنها تُعطينا أهداف سرعة بـصيغة مغلقة تجعل التدريب سهلاً جداً. المسار المشروط الغاوسي يأخذ الشكل:

$p_t(x | x_1) = \mathcal{N}(x \mid \mu_t(x_1),\, \sigma_t(x_1)^2 I)$

حيث $\mu_t$ و$\sigma_t$ جدولان يتغيّران مع الزمن ويتحكّمان في المتوسط والانحراف المعياري. عند $t{=}0$ نريد ضجيجاً صافياً ($\mu_0 = 0$، $\sigma_0 = 1$)، وعند $t{=}1$ نريد أن يتمركز التوزيع حول نقطة البيانات ($\mu_1 = x_1$، $\sigma_1 \approx 0$). وكل شيء بينهما استكمال سلس.

تُثبت الورقة (المبرهنة 3) أنّ حقل السرعة المشروط لأيّ مسار غاوسي كهذا يملك صيغة مغلقة بسيطة:

بعد بناء الإطار العام، يطرح المؤلفون خياراً محدّداً للمسار يتفوّق بوضوح على مسارات الانتشار: الإزاحة التكاملية لـالنقل الأمثل. يستخدم هذا المسار أبسط جداول يمكن تخيّلها:

$\mu_t(x_1) = t \cdot x_1, \qquad \sigma_t = 1 - (1 - \sigma_{\min})t$

المعنى المباشر لهذا أنّ كل عيّنة تسلك خطاً مستقيماً من نقطة الضجيج التي بدأت منها إلى وجهتها في البيانات. لا منحنيات ولا التفافات ولا انعطافات. وحين نُعوّض بهذه الجداول في صيغة السرعة الغاوسية نحصل على السرعة المشروطة للنقل الأمثل:

لماذا المسارات المستقيمة أفضل؟ ثلاثة أسباب:

أخذ عيّنات أسرع. المسار المستقيم أسهل على حلّال المعادلات التفاضلية العددي في تتبّعه — حتى مُكامل أويلر البسيط يستطيع إنتاج عيّنات عالية الجودة بنحو 100 تقييم للدالة، مقابل أكثر من 250 في مسارات الانتشار.

تعلُّم أيسر. حين يكون حقل السرعة أملس وشبه ثابت على طول كل مسار، يصبح هدف الانحدار أسهل على الشبكة. مسارات الانتشار تُولّد حقول سرعة متقلّبة بسرعة قرب $t{=}0$ و$t{=}1$ يصعب على الشبكة تعلُّمها.

تعميم أفضل. تجريبياً، تُحقّق مسارات النقل الأمثل باستمرار قيم FID أقلّ وأرجحيات لوغاريتمية أفضل مقارنة بمسارات الانتشار عند ميزانية التدريب ذاتها.

من أكثر ما يلفت في مُطابقة التدفق هو بساطة حلقة التدريب. الخوارزمية كاملة تُختزَل في خمس خطوات:

1. اسحب نقطة بيانات $x_1 \sim q(x_1)$ وعيّنة ضجيج $x_0 \sim \mathcal{N}(0, I)$

2. اختر زمناً عشوائياً $t \sim \mathcal{U}[0, 1]$

3. أجرِ الاستكمال: $x_t = (1 - (1 - \sigma_{\min})t)\, x_0 + t\, x_1$

4. احسب السرعة المستهدفة: $u_t = x_1 - (1 - \sigma_{\min})\, x_0$

5. صغّر $\| v_\theta(t, x_t) - u_t \|^2$

هذه هي حلقة التدريب بالكامل. لا دوالّ مُسجِّلة، ولا جداول ضجيج يجب البحث فيها، ولا محاكاة لمعادلة تفاضلية. مجرد سحب عيّنات واستكمال وانحدار.

بمجرّد انتهاء تدريب حقل السرعة $v_\theta$، يُصبح توليد العيّنات مسألة تكامل لمعادلة تفاضلية عادية لا أكثر. نبدأ من ضجيج عشوائي $x_0 \sim \mathcal{N}(0, I)$ ونحلّ:

$\frac{d}{dt} \phi_t(x) = v_\theta(t, \phi_t(x)), \quad \phi_0(x) = x_0$

أيّ حلّال معادلات تفاضلية معياري يفي بالغرض — مثل dopri5 (رونجي-كوتا التكيّفي) لأعلى جودة، أو طريقة أويلر البسيطة لتوليد سريع بخطوات أقلّ. ولأنّ مسارات النقل الأمثل تُنتج مسارات شبه مستقيمة، فحتى الحلّالات البدائية تُعطي نتائج جيدة.

أمّا لحساب الأرجحية بدقة، فيُعزَّز النموذج بصيغة تغيّر المتغيرات اللحظية التي تتتبّع لوغاريتم مُحدِّد مصفوفة جاكوبي مع تقدّم التدفق:

درّب المؤلفون مُطابقة التدفق على CIFAR-10 وImageNet (بأحجام $32{\times}32$ و$64{\times}64$ و$128{\times}128$) مستخدمين بنية U-Net نفسها التي اعتمدتها نماذج الانتشار السابقة. وكانت النتائج متّسقة في جميع الإعدادات:

مُطابقة التدفق بمسارات النقل الأمثل تتفوّق على نماذج الانتشار في FID والأرجحية معاً. على CIFAR-10 حقّقت FM-OT قيمة FID تبلغ 6.35 مقابل 7.48 لـDDPM، وأرجحية لوغاريتمية سالبة 2.99 مقابل 3.12 بت لكل بُعد. وعلى ImageNet بحجم $64{\times}64$ وصلت FM-OT إلى 14.45 مقابل 24.95 لـScoreFlow.

مُطابقة التدفق بمسارات الانتشار أكثر استقراراً أصلاً من التدريب المعياري للانتشار. حتى بدون الانتقال إلى مسارات النقل الأمثل، يُنتج هدف FM منحنيات خسارة أكثر سلاسة وتقارباً أسرع مقارنة بـDDPM أو مطابقة الدالة المُسجِّلة على المسارات ذاتها.

مسارات النقل الأمثل تحتاج عدد خطوات أقلّ بكثير. FM-OT تُحقّق جودة مماثلة بـ142 تقييماً للدالة (NFE) على CIFAR-10، مقابل 274 لـDDPM. وعلى ImageNet بحجم $64{\times}64$ تتّسع الفجوة لتصل إلى 138 مقابل 601.

مُطابقة التدفق لم تُقدّم طريقة تدريب أفضل فحسب — بل أعادت تشكيل الطريقة التي يُفكّر بها الباحثون في النمذجة التوليدية. حين أثبتت أنّ نماذج الانتشار ما هي إلّا حالة واحدة ضمن عائلة أوسع من المسارات الاحتمالية، فتحت الباب أمام استكشاف هندسات جديدة واستراتيجيات استكمال مبتكرة ومجالات تطبيق تتخطّى الصور بكثير.

انتشر الأثر بسرعة لافتة. Sora (OpenAI، 2024) يعتمد على مُطابقة التدفق لتوليد الفيديو. Stable Diffusion 3 (Stability AI، 2024) استبدل ركيزته القائمة على الانتشار بمُطابقة التدفق. Voicebox وAudioBox من Meta يُولّدان الكلام والمؤثرات الصوتية بالأسلوب ذاته. وفي عالم الروبوتات، يعتمد π₀ (Physical Intelligence، 2024) على مُطابقة التدفق لتوليد أفعال روبوتية مستمرة.

في الفترة نفسها من ICLR 2023، ظهرت أعمال متزامنة — التدفق المُقوَّم (ليو وآخرون) والمُستكملات العشوائية (ألبيرغو وفاندن-آيندن) — توصّلت بشكل مستقل إلى أُطر مشابهة بنيوياً، ما يؤكّد أنّ الفكرة كانت قد نضجت. هذه الأوراق مجتمعة رسمت الانتقال من عصر «نماذج الانتشار» إلى عصر «النماذج التوليدية القائمة على التدفق».