Chronos: تعلُّم لغة السلاسل الزمنية

النماذج اللغوية تعمل على رموز من مفردات محدودة — تختار الرمز التالي من بين مجموعة معروفة من الكلمات. لكنّ قيم السلاسل الزمنية أرقام حقيقية متصلة، ولا يوجد لها «قاموس» جاهز. Chronos يحلّ هذه المشكلة بخط معالجة بسيط وأنيق.

أولاً، التحجيم: تُقسَم كل قيمة على متوسط القيم المطلقة في النافذة التاريخية. هذا التطبيع ينقل سلاسل بمقادير متباينة جداً إلى نطاق متقارب. سلسلة مبيعات بالآلاف وسلسلة حرارة حول 20 درجة مئوية تصبحان في النطاق نفسه تقريباً.

ثانياً، التكميم: تُوزَّع القيم المُحجَّمة على عدد ثابت من السلال. تخيّل خط أعداد مقسّماً إلى دلاء: كل قيمة تقع في دلو معيّن، ورقم ذلك الدلو يصبح هو الرمز. مفردات T5 الأصلية تُستبدل بالكامل بأرقام هذه السلال، مع رموز خاصة قليلة للحشو والقيم المفقودة.

النتيجة: تتحوّل السلسلة الزمنية إلى تسلسل من الرموز الصحيحة — وهو بالضبط ما يتوقّعه النموذج اللغوي كمدخل. لا ترقيع، ولا رؤوس تضمين مخصّصة، ولا بنية جديدة. مجرد رموز تدخل مُرمِّز-مفكِّك T5 المعياري.

السلاسل الزمنية تتفاوت في مقاييسها تفاوتاً هائلاً. سلسلة أسعار أسهم قد تتأرجح بين 100 و300، بينما قراءة مستشعر قد لا تتجاوز 0.01. لو كمّمنا هذه القيم مباشرةً، ستحتل الأسهم السلال العليا كلها وستتكدّس قراءات المستشعر في سلّة واحدة — كأنّ النموذج يسمع «لهجتين» مختلفتين تماماً لا يفهم إحداهما.

الحل هو تحجيم المتوسط: نقسم كل قيمة على متوسط القيم المطلقة في نافذة السياق التاريخي. هذا يجعل المقدار النموذجي يدور حول 1.0 بغضّ النظر عن المقياس الأصلي. الميزة المهمة هنا أنّ هذا التحجيم يحافظ على الأصفار — إن كانت المبيعات صفراً في يوم عطلة، يبقى الرمز صفراً. وهذا جوهري لأنّ الأصفار في السلاسل الزمنية كثيراً ما تحمل معنى حقيقياً، بخلاف ما يحدث في النصوص.

بعد التحجيم، لا تزال كل قيمة رقماً حقيقياً. مرحلة التكميم تحوّلها إلى واحد من B مؤشر سلّة. الفكرة أنّ Chronos يضع B مركز سلّة على خط الأعداد ويفصل بينها B−1 حداً. كل قيمة مُحجَّمة تقع في السلّة التي تحتويها، ومؤشر تلك السلّة يصبح الرمز.

التشبيه الأقرب هو لوحة مفاتيح البيانو: الترددات الصوتية المتصلة تُختزل إلى 88 مفتاحاً. تخسر شيئاً من الدقة — نغمة بين دو ودو♯ تذهب للمفتاح الأقرب — لكنك تكسب تمثيلاً رمزياً منفصلاً يستطيع المُحوِّل معالجته مباشرةً.

حجم المفردات الافتراضي في Chronos هو 4096 سلّة. المؤلفون وصلوا إلى هذا الرقم عبر دراسة استئصالية: سلال أقل تضيّع الدقة، وسلال أكثر من اللازم تُهدر السعة على رموز نادرة الاستخدام. حواف السلال مأخوذة من كميّات التوزيع الطبيعي المعياري، وهذا يُركّز الدقة في المنطقة التي تتجمّع فيها أغلب القيم (قرب الصفر) ويُباعد بين السلال في الأطراف.

بعد الترميز، تبدو السلسلة الزمنية تماماً كجملة نصية. Chronos يأخذ بنية المُرمِّز-المفكِّك من T5 ويدرّبها بدالة الإنتروبيا التقاطعية — نفس دالة الخسارة المستخدمة في الترجمة الآلية. المُرمِّز يقرأ السياق المُرمَّز (القيم التاريخية)، والمفكِّك يتنبأ بالمستقبل رمزاً تلو الآخر.

عند الاستدلال، يعمل Chronos بطريقة انحدارية ذاتية: يسحب عيّنة رمز من التوزيع الفئوي المُتنبَّأ، يحوّلها إلى قيمة حقيقية عبر عكس التكميم وإعادة التحجيم، ثم يُدخلها كمدخل للخطوة التالية. وبتكرار هذه العملية على عدة مسارات (عادةً 20)، يحصل المستخدم على توزيع تنبؤي كامل — وليس مجرد رقم واحد. هذا يعني كميّات وفترات ثقة وتصوّراً واضحاً لدرجة عدم اليقين، وهو ما يحتاجه صانع القرار فعلاً.

فلسفة التصميم هنا — نمذجة القيم الحقيقية عبر توزيع فئوي على السلال — تُعرف أحياناً بـ«الانحدار عبر التصنيف». القوة الحقيقية لهذا المنهج هي المرونة: النموذج يستطيع تمثيل أي شكل توزيعي، بما فيه التوزيعات متعددة القمم، دون افتراضات مسبقة عن الشكل. رأس غاوسي لا يُخرج إلا منحنيات جرسية، أما Chronos فيستطيع تمثيل أي شكل.

النموذج اللغوي يحتاج مليارات الجمل ليتعلّم القواعد. لكنّ مجموعات بيانات السلاسل الزمنية المتاحة أصغر بكثير — حتى لو جمعت كل المجموعات العامة، لن تحصل إلا على عشرات الآلاف من السلاسل. Chronos يواجه هذه الندرة بأسلوبين في تعزيز البيانات.

الأسلوب الأول TSMixup: يأخذ عدة سلاسل حقيقية من مجموعات مختلفة ويمزجها بأوزان عشوائية لإنتاج سلاسل جديدة. تخيّل أنك تخلط منحنى مبيعات مكتبة مع منحنى استهلاك كهرباء مصنع — تحصل على سلسلة اصطناعية تحمل أنماطاً من المصدرين معاً، فيتعلّم النموذج سمات عامة بدلاً من حفظ مجموعة بيانات بعينها.

الأسلوب الثاني KernelSynth: يولّد سلاسل اصطناعية بالكامل من عمليات غاوسية. كل عملية غاوسية تُحدَّد بدالة نواة تتحكم في شكل الأنماط الناتجة. KernelSynth يُركّب نوى أساسية — خطية ودورية ودالة أساس شعاعي — بالجمع والضرب بشكل عشوائي، ثم يسحب عيّنات من العملية الناتجة. هذا يعطي إمداداً غير محدود من سلاسل متنوعة تبدو واقعية وخصائصها الإحصائية معروفة ومسيطَر عليها.

تجريبياً، إضافة بيانات KernelSynth حسّنت أداء التنبؤ بدون أمثلة على مجموعات لم تُرَ سابقاً بشكل واضح. الدرس هنا أنّ تنويع البيانات الاصطناعية يُفيد أكثر من مجرد زيادة كمية البيانات الحقيقية إذا كانت محدودة التنوّع.

التقييم شمل 42 مجموعة بيانات تغطّي مجالات الطاقة والتمويل والصحة والطبيعة والتجزئة والنقل وحركة الويب. المؤلفون قسّموها إلى معيارين: المعيار الأول يضمّ 15 مجموعة من حوض التدريب (داخل النطاق)، والثاني 27 مجموعة محتجَزة لم يرها النموذج (اختبار بدون أمثلة).

على البيانات داخل النطاق، تفوّق أكبر نماذج Chronos (710 مليون معامل، مبني على T5-Large) بوضوح على جميع خطوط الأساس — سواء النماذج الإحصائية الكلاسيكية (ARIMA وETS وTheta) أو طرق التعلّم العميق (DeepAR وPatchTST وTFT). التفوّق كان لافتاً بشكل خاص في المقاييس الاحتمالية كخسارة الكميّات الموزونة.

على بيانات التنبؤ بدون أمثلة — مجموعات لم يرها النموذج قط أثناء التدريب — حقّق Chronos أداءً يُعادل أو يتفوّق على نماذج دُرّبت على تلك المجموعات تحديداً. هذه هي النتيجة المحورية: نموذج تدرّب فقط على سلاسل زمنية مُرمَّزة، بلا رؤوس أو سمات مخصّصة، يستطيع التعميم على مجالات جديدة كلياً.

تحليل التوسيع أظهر تحسّناً مطّرداً مع زيادة الحجم من 20 مليوناً إلى 710 ملايين معامل، وهذا يُرجّح أنّ قوانين التوسيع المعروفة في النمذجة اللغوية تنطبق على السلاسل الزمنية المُرمَّزة أيضاً.

الورقة تتضمّن دراسة استئصالية وافية تغطّي عدة محاور تصميمية. حجم النموذج يُحدث فرقاً واضحاً: الأداء يتحسّن بانتظام من Chronos-Mini (20 مليون معامل) إلى Chronos-Large (710 ملايين). التهيئة من أوزان T5 المُدرَّبة مسبقاً تتفوّق على التهيئة العشوائية، رغم أنّ المفردات الأصلية تُستبدل بالكامل — السبب أنّ أنماط الانتباه والترميز الموضعي التي تعلّمها T5 تنقل معارف أوّلية مفيدة حتى مع رموز مختلفة تماماً.

حجم المفردات عند 4096 سلّة هو النقطة المثلى: مفردات أصغر (مثل 64) لا تملك دقة كافية لالتقاط التفاصيل، ومفردات أكبر بكثير (مثل 16384) تُعطي عوائد متناقصة. نسبة البيانات الاصطناعية لها أثر أيضاً: خليط من نحو 50% بيانات حقيقية و50% من KernelSynth يُحقّق أفضل أداء في التنبؤ بدون أمثلة.

المؤلفون يذكرون عدة قيود. Chronos يُعامل كل خطوة زمنية كرمز واحد، وهذا أقل كفاءة من أساليب الترقيع التي تجمع عدة خطوات في رمز واحد. كذلك، النظام حالياً مقتصر على التنبؤ بمتغير واحد. وأخيراً، لأنّ التكميم ذو دقة محدودة، قد تضيع الفروق الدقيقة جداً بين القيم — وهو عنق زجاجة معلوماتي ملازم لفكرة الترميز نفسها.

Chronos يمثّل نقلة فكرية في مجال التنبؤ بـالسلاسل الزمنية. المنهج التقليدي كان تصميم بنيات متخصصة تحتوي مكوّنات مجالية — مؤشرات تأخير، ومركّبات موسمية، ومستخلصات اتجاه. Chronos يسأل سؤالاً مختلفاً: هل يستطيع نموذج تسلسلي عام أن يكتشف هذه الأنماط بنفسه من البيانات إن وفّرنا له التمثيل المناسب؟ الإجابة جاءت بنعم، وهذا يضع مجال التنبؤ في سياق الاتجاه الأعم في الذكاء الاصطناعي: التوسيع والعمومية يتفوّقان على التخصيص.