نماذج الانتشار الضمنية لإزالة الضجيج

لفهم DDIM، لنبدأ أولاً بتشخيص مشكلة البطء في DDPM. الفكرة في DDPM أننا نأخذ صورة نظيفة $x_0$ ونُضيف إليها ضجيجاً غاوسياً بشكل تدريجي على مدى $T = 1{,}000$ خطوة، فنحصل على تسلسل $x_1, x_2, \ldots, x_T$ ينتهي بضجيج خالص. هذا التسلسل هو سلسلة ماركوف: كل خطوة $x_t$ تعتمد حصراً على سابقتها $x_{t-1}$.

عملية التوليد تسير بالاتجاه المعاكس: نبدأ من ضجيج خالص $x_T \sim \mathcal{N}(0, I)$ ونُزيل الضجيج خطوة بخطوة حتى نصل إلى صورة نظيفة $x_0$. المشكلة أن العملية الأمامية تتكوّن من $T$ خطوة، فلا بدّ أن تمرّ العملية العكسية بـ$T$ خطوة أيضاً — أي تقييم واحد للشبكة العصبية في كل خطوة. في سلسلة ماركوف لا يوجد طريق مختصر.

لكن هناك ملاحظة جوهرية تفتح الباب لكل ما سيأتي: يمكننا القفز من $x_0$ إلى أي خطوة $x_t$ مباشرة دون المرور بالخطوات الوسيطة:

وهنا تأتي الملاحظة الحاسمة: التوزيع الهامشي $q(x_t | x_0)$ عند أي خطوة لا يتأثر بـالمسار الذي سلكناه للوصول إليه. سواء وصلنا عبر 1,000 خطوة في سلسلة ماركوف أو قفزنا مباشرة، النتيجة الإحصائية واحدة. والمفتاح هنا أن دالة هدف التدريب في DDPM — وهي التنبؤ بالضجيج $\epsilon$ من $x_t$ — تعتمد فقط على هذه التوزيعات الهامشية، ولا علاقة لها بالتوزيع المشترك $q(x_1, \ldots, x_T | x_0)$. هذه هي الثغرة التي استغلّها DDIM.

سلسلة ماركوف في DDPM ليست إلا توزيعاً مشتركاً واحداً $q(x_1, \ldots, x_T | x_0)$ يُعطينا التوزيعات الهامشية $q(x_t | x_0) = \mathcal{N}(\sqrt{\alpha_t}\, x_0, (1 - \alpha_t) I)$. لكن في الواقع، هناك عدد لا نهائي من التوزيعات المشتركة المختلفة التي تُنتج التوزيعات الهامشية ذاتها بالضبط.

لتوضيح الفكرة: تخيّل أنك تعرف معدّلات الطقس لكل شهر من السنة. نموذج ماركوف يفترض أن طقس اليوم يعتمد فقط على طقس أمس. لكن يمكنك بناء نموذج آخر يعتمد فيه طقس اليوم على أمس وعلى الفصل ككلّ — وهذا نموذج غير ماركوفي. كلا النموذجين يُعطيان المعدّلات الشهرية نفسها، لكن طريقة الانتقال من يوم لآخر مختلفة تماماً.

DDIM يستثمر هذه الحرية الرياضية: يُعرِّف عائلة من العمليات الأمامية غير الماركوفية، يتحكّم بها متجه $\sigma = (\sigma_1, \ldots, \sigma_T)$، حيث كل $\sigma_t$ يُحدّد مقدار العشوائية عند الخطوة $t$. صُمّمت هذه العائلة بعناية بحيث تظلّ التوزيعات الهامشية $q_\sigma(x_t | x_0)$ مطابقة لما في DDPM مهما كانت قيم $\sigma$. وبما أن دالة هدف التدريب تعتمد فقط على التوزيعات الهامشية، فإن النموذج المُدرَّب نفسه يصلح لجميع أفراد هذه العائلة — دون أي إعادة تدريب.

جوهر DDIM هو معادلة تحديث واحدة تُنتج $x_{t-1}$ من $x_t$. قبل أن نغوص في الرياضيات، لنفهم المنطق الذي تقوم عليه.

النموذج $\epsilon_\theta^{(t)}(x_t)$ تعلَّم أثناء التدريب أن يتنبّأ بالضجيج الذي أُضيف إلى الصورة الأصلية. إذا عرفنا الضجيج، نستطيع تقدير شكل الصورة النظيفة $x_0$. بعد ذلك نأخذ هذا التقدير ونُعيد إضافة الضجيج بالمقدار المناسب للخطوة $t{-}1$. المعادلة تجمع ثلاثة مكوّنات: تقدير الصورة النظيفة، وحدّ تصحيحي يوجّهنا في اتجاه الضجيج المطلوب، وحدّ ضجيج عشوائي اختياري يتحكّم فيه $\sigma_t$.

يمكن تصوّر المعادلة كشدّ حبل بين «الإشارة» و«الضجيج». الحدّ الأول يجذبنا نحو الصورة النظيفة — كبوصلة تُرشدنا إلى الهدف. الحدّ الثاني يُعاير مستوى الضجيج لنهبط في المكان الصحيح على جدول الضجيج. أما الحدّ الثالث فيُضيف عشوائية محكومة تُفيد في تنويع المخرجات لكنها تُبطئ التقارب.

المعامل $\eta$ يُتيح لنا التحكّم السلس بين الطرفين: عند $\eta = 0$ نحصل على DDIM (حتمي بالكامل)، وعند $\eta = 1$ نعود إلى DDPM (عشوائي بالكامل)، والقيم بينهما تُعطي استيفاءً سلساً بين الحالتين. وذلك من خلال تعريف $\sigma_t(\eta) = \eta \sqrt{(1-\alpha_{t-1})/(1-\alpha_t)} \sqrt{1 - \alpha_t / \alpha_{t-1}}$.

الاكتشاف الثاني لا يقلّ أهمية: لسنا مضطرين لعكس جميع الخطوات الـ$T = 1{,}000$. ما دامت دالة هدف التدريب تعتمد فقط على التوزيعات الهامشية $q(x_t | x_0)$، يمكننا انتقاء متتالية جزئية $\tau = [\tau_1, \tau_2, \ldots, \tau_S]$ من المجموعة الأصلية $[1, \ldots, T]$ وتشغيل عملية التوليد على هذه الخطوات فحسب. بدلاً من المرور بالتسلسل الكامل $x_{1000} \to x_{999} \to \cdots \to x_0$، نقفز مباشرة $x_{1000} \to x_{900} \to x_{800} \to \cdots \to x_0$ — أي 10 خطوات فقط.

معادلة التحديث لا تتغيّر، نستبدل فقط $\alpha_t$ و$\alpha_{t-1}$ بـ$\alpha_{\tau_i}$ و$\alpha_{\tau_{i-1}}$. النموذج تعلّم إزالة الضجيج عند جميع المستويات الألف، فيستطيع العمل عند أيّ منها. الأمر أشبه برحلة طويلة: بدلاً من التوقف في كل محطة، نختار محطات أقل ونصل إلى الوجهة نفسها.

النتائج التجريبية مُقنعة. على CIFAR-10 حقّق DDIM بـ50 خطوة FID يبلغ 4.67، وهو قريب جداً من 4.04 الذي يحقّقه DDPM بـ1,000 خطوة — تسريع 20 ضعفاً مع تراجع طفيف في الجودة. وحتى بـ20 خطوة فقط، يسجّل DDIM نتيجة 6.84، بينما ينهار أداء DDPM إلى 18.36 بالميزانية نفسها.

لأن DDIM حتمي، فإن نقطة الانطلاق $x_T$ نفسها تُنتج دائماً الصورة $x_0$ ذاتها — مهما كان عدد الخطوات. هذه الخاصية تُسمى الاتساق: لو ولّدنا صورة بـ10 خطوات ثم بـ1,000 خطوة من $x_T$ نفسه، سنحصل على السمات العامة ذاتها — الوضعية واللون والتكوين — والاختلاف يقتصر على تفاصيل دقيقة.

هذا يُحوّل $x_T$ فعلياً إلى ترميز كامن حقيقي، مشابه لما نعرفه في الفضاء الكامن لشبكات GAN أو المرمِّز التبايُني التلقائي. ونكتسب بذلك قدرتين مهمتين. الأولى هي الاستيفاء: لو أخذنا متجهي ضجيج $x_T^{(0)}$ و$x_T^{(1)}$، يمكننا التحرّك بينهما بسلاسة عبر الاستيفاء الخطي الكروي وتوليد صور وسيطة. الانتقالات تحمل معنى دلالياً واضحاً — الوجوه تتحوّل تدريجياً، والمشاهد تتمازج بشكل طبيعي.

القدرة الثانية هي الترميز العكسي: بتشغيل معادلة DDIM بالاتجاه المعاكس (من $x_0$ إلى $x_T$)، نستطيع ترميز أي صورة في الفضاء الكامن، ثم إعادة بنائها بدقة شبه مثالية. خطأ إعادة البناء ينخفض إلى أقل من $10^{-4}$ مع 1,000 خطوة ترميز. هذا الأمر مستحيل في DDPM لأن العشوائية في عمليته تكسر العلاقة الأحادية بين الضجيج والصورة.

تحت السطح تختبئ صلة رياضية أنيقة. إذا أجرينا إعادة مَعلمة بقسمة كل $x_t$ على $\sqrt{\alpha_t}$ وعرّفنا $\bar{\sigma}(t) = \sqrt{(1-\alpha_t)/\alpha_t}$، نكتشف أن معادلة تحديث DDIM هي في حقيقتها خطوة أويلر واحدة لمعادلة تفاضلية عادية:

منظور المعادلات التفاضلية العادية قويّ لسببين جوهريين. أولاً، يفتح لنا الباب لاستثمار عقود من البحث في الحلول العددية للمعادلات التفاضلية — طرق آدمز–باشفورث ورنغه–كوتا وغيرها — لتحسين جودة الأخذ بخطوات أقل. ثانياً، يمنحنا ترميزاً عكسياً: في DDPM تجعل العشوائية العلاقة من $x_0$ إلى $x_T$ علاقة واحد-إلى-كثير، لكن المعادلة التفاضلية في DDIM تُعرِّف تقابلاً ثنائياً — لكل صورة ترميز كامن وحيد، والعكس صحيح. عملياً، هذا يعني أن DDIM هو تدفق تطبيعي بصورة أخرى، حيث تلعب شبكة التنبؤ بالضجيج دور حقل السرعة.

DDIM أزال العائق العملي الذي كان يحول بين نماذج الانتشار والاستخدام الفعلي. قبل DDIM، كانت هذه النماذج محصورة في الدوائر الأكاديمية — رياضيات أنيقة وجودة عيّنات ممتازة، لكنها أبطأ بكثير من أن تُنشر في منتجات حقيقية. بعد DDIM، دخلت نماذج الانتشار مرحلة الجدوى التجارية.

الأثر كان فورياً وعميقاً. كل نظام توليد صور حديث — Stable Diffusion وDALL·E 2 وImagen وMidjourney — يعتمد على أخذ العيّنات المتسارع بأسلوب DDIM كمكوّن أساسي. والفضاء الكامن الحتمي أتاح تقنيات تعديل الصور مثل عكس DDIM، حيث تُرمَّز صورة حقيقية في الفضاء الكامن وتُعدَّل ثم يُعاد بناؤها. والصلة التي كشفها DDIM بالمعادلات التفاضلية العادية ألهمت DPM-Solver الذي رفع الجودة بـ10–20 خطوة فقط باستخدام حلّالات من الرتبة العليا. أما الفكرة الأعمق — أن نموذجاً واحداً مُدرَّباً يدعم طيفاً كاملاً من استراتيجيات الاستدلال — فقد ألهمت مباشرة نماذج الاتساق التي تُقطّر مسار المعادلة التفاضلية بأكمله لتوليد الصورة في خطوة واحدة.