الروبوتات2024متقدم12 دقيقة قراءة
π₀: نموذج تدفُّقي للرؤية واللغة والفعل للتحكم العام بالروبوتات
π₀: A Vision-Language-Action Flow Model for General Robot Control
Black, K. · Brown, N. · Driess, D. · Esmail, A. · Equi, M. · Finn, C. · Fusai, N. · Groom, L. · Hausman, K. · Ichter, B. · Jakubczak, S. · Jones, T. · Ke, L. · Levine, S. · Li-Bell, A. · Mothukuri, M. · Nair, S. · Pertsch, K. · Shi, L. X. · Tanner, J. · Vuong, Q. · Walling, A. · Wang, H. · Zhilinsky, U. — RSS
المشكلة
بحلول 2024، كان تعلُّم الروبوتات قد تقدّم كثيراً في مهام بسيطة كالتقاط الأشياء ووضعها، لكن الحلم الأكبر — بناء نموذج واحد يعمل على روبوتات مختلفة ومهام متنوعة وبيئات متعددة — ظلّ بعيد المنال. النماذج التي تجمع الرؤية واللغة والفعل كانت تعامل الحركات كرموز نصية منفصلة وتتنبأ بها واحداً تلو الآخر، وهذا لا يصلح للتحكم الحركي الدقيق الذي يحتاج أفعالاً مستمرة بتردد عالٍ. في المقابل، نماذج الانتشار حققت دقة حركية عالية لكنها كانت تُدرَّب من الصفر على بيانات صغيرة، بلا فهم دلالي للمشاهد واللغة. لم يكن هناك نموذج واحد يجمع الفهم والدقة معاً.
الإسهام
π₀ نموذج بحجم 3.3 مليار معامل يجمع الرؤية واللغة والفعل في بنية واحدة. يبدأ من نموذج رؤية-لغة مُدرَّب مسبقاً (PaliGemma) ويضيف إليه وحدة متخصصة — — وهي مجموعة منفصلة من الأوزان تتشارك مع النموذج الأساسي لكنها تتولّى معالجة حالات الروبوت وتوليد الأفعال عبر مُطابقة التدفق. دُرِّب على أكثر من 10,000 ساعة من البيانات تشمل 7 تكوينات روبوتية و68 مهمة، بالإضافة إلى مجموعات بيانات مفتوحة المصدر. النتيجة: نموذج يستطيع تنفيذ أوامر لغوية مباشرةً بدون أمثلة، ويمكن ضبطه على مهام حركية معقدة كطيّ الملابس وتجميع الصناديق، متفوقاً بوضوح على جميع النماذج السابقة سواء العامة منها أو المتخصصة.
الأثر
أثبت π₀ أن الوصفة التي نجحت في نماذج اللغة — درِّب مسبقاً على بيانات ضخمة ثم اضبط على المهمة المطلوبة — تصلح للروبوتات أيضاً حين تُقترن بمُطابقة التدفق، فأسّس بذلك نموذجاً جديداً للنماذج التأسيسية الروبوتية. أظهر أن نموذجاً واحداً يعمل على أجسام مختلفة يمكنه إتقان مهام تتراوح بين التقاط بسيط وتسلسلات طيّ ملابس تستمر 20 دقيقة — وهي أطول مهام حركية دقيقة نُفِّذت بالتعلُّم الشامل في أدبيات الروبوتات. ألهم π₀ مباشرةً النموذج اللاحق π₀.5 الذي يتعامل مع بيئات مفتوحة، وسرَّع توجُّه المجال نحو التطبيق العملي.
تخيّل قائد أوركسترا أمضى سنوات يقرأ كل كتب الموسيقى ويشاهد كل تسجيلات الحفلات في العالم. يفهم الموسيقى فهماً عميقاً — لكنه لم يُمسك عصا القيادة يوماً. ثم فجأة نطلب منه أن يقود 7 أوركسترات مختلفة، كلٌّ منها بآلات مختلفة، في 68 مقطوعة موسيقية.
المشكلة أن التلويح العريض بالذراعين لا يكفي — العازفون يحتاجون 50 إيماءة دقيقة في الثانية. لذا بدلاً من تقطيع الموسيقى إلى نبضات خشنة، يتعلّم القائد أن ينحت حركته من الضجيج: يبدأ بموجة عشوائية ويصقلها خطوة بخطوة حتى تصير الإيماءة التي تتطلّبها المقطوعة بالضبط.
π₀ هو ذلك القائد. معرفته الموسيقية تأتي من مُدرَّب مسبقاً على بيانات الإنترنت. أما تقنية العصا فتأتي من . وذخيرته من المقطوعات مصدرها أكثر من 10,000 ساعة من مشاهدة الروبوتات وهي تعمل.
التحدي: لماذا يصعب بناء دماغ روبوتي واحد لكل شيء
بحلول 2024، كان مجال تعلُّم الروبوتات منقسماً إلى مدرستين لا تتكلّمان اللغة نفسها. المدرسة الأولى اعتمدت نماذج الرؤية واللغة مثل RT-2: نماذج تفهم المشاهد وتتّبع التعليمات اللغوية، لكنها تعاملت مع حركات الروبوت كرموز منفصلة — كأنها كلمات في جملة. هذا الأسلوب يعمل في المهام البطيئة والبسيطة مثل «التقط الكوب وحرّكه يساراً»، لكنه ينهار تماماً أمام المهام الحركية الدقيقة بتردد 50 هرتز: طيّ القماش، أو تعبئة البيض، أو تجميع الصناديق. ببساطة، لا يمكنك تمثيل 50 تعديلاً دقيقاً لزوايا المفاصل في الثانية على شكل سلسلة من الكلمات.
المدرسة الثانية استخدمت سياسة الانتشار وأساليب مشابهة لتوليد مسارات حركة سلسة وعالية التردد باستخدام . هذه الأساليب تفوّقت في الدقة الحركية، لكنها كانت تُدرَّب من الصفر على مجموعات بيانات صغيرة لكل مهمة على حدة، فلم تستفد من الفهم الدلالي العميق الذي يأتي من على بيانات الإنترنت الواسعة.
الفجوة بين هاتين المدرستين هي بالضبط ما يعالجه π₀: كيف نبني نموذجاً واحداً يملك الفهم الدلالي الذي تتميّز به نماذج الرؤية واللغة، وفي الوقت نفسه يُنتج أفعالاً مستمرة ودقيقة وعالية التردد تكفي للتحكم الحركي الدقيق؟
البنية: العمود الفقري VLM + خبير الأفعال
نقطة الانطلاق في بنية π₀ هي PaliGemma، وهو نموذج رؤية-لغة مفتوح المصدر بحجم 3 مليارات معامل. هذا النموذج يفهم الصور والنصوص أصلاً لأنه دُرِّب على بيانات الإنترنت — يعرف مثلاً كيف يصف صورة أو يجيب عن سؤال بصري. السؤال الآن: كيف نُكسبه القدرة على التحكم بالروبوت دون أن نُفسد فهمه الدلالي المكتسب؟
الحل تصميم ثنائي مستوحى من بنية Transfusion، يعمل بأسلوب . يضمّ النموذج مجموعتين من أوزان : المجموعة الأولى هي الجذع الأساسي الذي يعالج الصور ورموز اللغة بأوزان PaliGemma الأصلية. المجموعة الثانية هي خبير الأفعال — وحدة أصغر (300 مليون معامل) مهمتها معالجة حالات الروبوت وتوليد الأفعال.
الخبيران يتشاركان آلية الانتباه نفسها. ما الذي يعنيه ذلك عملياً؟ رموز الأفعال تستطيع «رؤية» رموز الصورة واللغة لتفهم المطلوب منها، ورموز الصورة واللغة تستطيع «رؤية» رموز الأفعال لتعرف أين الروبوت الآن. لكن شبكات التغذية الأمامية — حيث يحدث الجزء الأكبر من الحساب الفعلي — منفصلة تماماً. هذا الفصل ضروري لأن فهم اللغة والتحكم الحركي الدقيق عمليتان مختلفتان جذرياً.
تخيّل الأمر كدماغ بنصفين يتواصلان عبر قناة مشتركة. النصف اللغوي يفهم جملة «اطوِ القميص» ويتعرّف على شكل القميص في الصورة. النصف الحركي يُترجم هذا الفهم إلى 50 أمراً دقيقاً للمفاصل في كل ثانية. وآلية الانتباه المشتركة هي الجسم الثفني الذي يربطهما.
مُطابقة التدفق: نحت الأفعال من الضجيج
مُطابقة التدفق هي الآلية التي يستخدمها π₀ لتوليد الأفعال المستمرة. الفكرة سهلة إذا فكّرت فيها كعملية نحت: لديك كتلة رخام (ضجيج عشوائي) وتريد أن تنحتها حتى تصير تمثالاً دقيقاً (الحركة الصحيحة للروبوت). النموذج يتعلّم حقل متجهات يعمل كدليل نحت — عند أي نقطة في فضاء الضجيج، يُخبرك في أي اتجاه تُزيح الرخام ليقترب من الشكل المطلوب. ابدأ من ضجيج عشوائي، اتّبع هذه المتجهات لـ 10 خطوات، وستصل إلى فعل دقيق.
وبشكل أدقّ: يُنمذج π₀ التوزيع الشرطي لـقطع الأفعال بمعلومية المُلاحظة . القطعة الواحدة هي تسلسل من فعلاً مستقبلياً — أي ثانية كاملة من حركة الروبوت عند 50 هرتز. في مرحلة ، يتعلّم النموذج التنبؤ بحقل المتجهات الذي يُحوِّل الضجيج إلى أفعال. وفي مرحلة ، يبدأ من ضجيج غاوسي عشوائي ويُكامل حقل المتجهات خلال 10 خطوات فقط.
وهنا تظهر الميزة الحاسمة مقارنةً بالانتشار التقليدي: المسار الاحتمالي في مُطابقة التدفق خطّي — أي أن الانتقال من الضجيج إلى الإشارة يسلك خطاً مستقيماً بدل مسار منحنٍ. هذا يجعل عملية التكامل أبسط وأسرع بكثير: 10 خطوات تكفي، بينما قد يحتاج الانتشار التقليدي إلى 50 أو 100 خطوة.
عند الاستدلال، تُولَّد الأفعال بتكامل حقل المتجهات المُتعلَّم عبر خطوات أويلر الأمامية:
التدريب العابر للأجسام: دماغ واحد، سبعة روبوتات
π₀ لا يُدرَّب على روبوت واحد — بل يُدرَّب في الوقت نفسه على 7 تكوينات مختلفة: روبوتات بذراع واحدة (UR5e وFranka)، وروبوتات بذراعين (UR5e ثنائي وTrossen ثنائي وARX ثنائي)، ومناولات متحركة (Trossen المتحرك وFibocom المتحرك). هذه الروبوتات تختلف في كل شيء تقريباً: عدد المفاصل (من 6 إلى 18 درجة حرية)، وعدد الكاميرات (2 أو 3)، و.
كيف يتعامل نموذج واحد مع هذا التنوع؟ الحيلة هي تمثيل أفعال موحَّد: كل الروبوتات تُمثَّل كمتجهات بـ 18 بُعداً (وهو أكبر فضاء أفعال في البيانات). الروبوتات ذات المفاصل الأقل تُحشى أبعادها الفارغة بأصفار، والروبوتات ذات الكاميرات الأقل تُقنَّع فتحات صورها المفقودة. بهذه الطريقة، نموذج واحد يعالج الجميع — يتعلّم مشاركة المعرفة البصرية والدلالية بين الأجسام المختلفة، مع تخصيص مخرجاته الحركية لكل تكوين على حدة.
وإلى جانب بيانات التحكم الدقيق (أكثر من 10,000 ساعة)، يتضمّن مزيج التدريب المسبق مجموعة بيانات Open X-Embodiment من 22 روبوتاً إضافياً، مع Bridge v2 وDROID. المحصلة: بيانات من أكثر من 29 منصة روبوتية مختلفة — وهو نطاق غير مسبوق.
وصفة التدريب: تدريب مسبق ثم تدريب لاحق
يتّبع π₀ الوصفة نفسها التي أثبتت نجاحها في نماذج اللغة الكبيرة: مرحلتان متتاليتان لكل منهما دور مختلف. مرحلة التدريب المسبق تُعرِّض النموذج لكل التنوع المتاح — التكوينات السبعة، والمهام الـ 68، وبيانات OXE الخارجية. الهدف هنا بناء نموذج أساسي يملك خبرة واسعة. جودة هذه البيانات متفاوتة عمداً: بعض التسجيلات سلسة ومحترفة، وبعضها يتضمّن أخطاء وتصحيحات. لكن هذا التفاوت مفيد جداً، لأنه يُعلّم النموذج كيف يتعافى حين تسوء الأمور.
مرحلة (أو التدريب اللاحق) تستخدم مجموعات بيانات أصغر حجماً لكنها أعلى جودة، مُنتقاة بعناية لمهام بعينها. في هذه المرحلة يتعلّم النموذج أن يؤدي المهمة المحددة بسلاسة وكفاءة — تماماً كما تُضبط نماذج اللغة ببيانات تعليمات مُنتقاة بعد تدريبها المسبق.
لماذا نحتاج المرحلتين معاً؟ لأن كل واحدة وحدها لا تكفي. إذا درَّبت النموذج فقط على بيانات نظيفة، سيؤدي بشكل ممتاز ما دام كل شيء يسير حسب الخطة — لكنه سينهار عند أول خطأ لأنه لم يرَ أخطاء قطّ. وإذا درَّبته فقط على بيانات متنوعة، سيتعامل مع أي موقف لكن دون إتقان حقيقي لأي مهمة. الجمع بين المرحلتين يُنتج نموذجاً يحاول أولاً الطريقة المُثلى التي تعلّمها من البيانات النظيفة، وإن واجه مشكلة لجأ إلى خبرة التعافي التي اكتسبها من البيانات المتنوعة.
النتائج: من التنفيذ بدون أمثلة إلى طيّ الملابس
التقييم تضمّن أربع تجارب رئيسية. أولاً، التقييم بدون أمثلة مباشرةً بعد التدريب المسبق على 5 مهام (طيّ القميص، تنظيف الطاولة بمستوييه، تعبئة البقالة، إخراج التوست). النتيجة: تفوّق π₀ بفارق واضح على جميع النماذج المقارنة — OpenVLA وOcto وπ₀-small — حتى حين مُنحت نفس ميزانية الحوسبة. OpenVLA عانى بشكل خاص لأن أسلوبه الارتجاعي في تمثيل الأفعال لا يصلح لتردد 50 هرتز.
ثانياً، اختبارات اتّباع التعليمات اللغوية أظهرت أن الجذع الأساسي للرؤية واللغة في π₀ يمنحه تفوقاً كبيراً في فهم الأوامر مقارنةً بـ π₀-small الذي لا يمتلك تهيئة لغوية. هذا التفوق يظهر سواء جاءت الأوامر من البشر أو وُلِّدت آلياً من نموذج لغوي.
ثالثاً، في تجارب الضبط الدقيق على مهام جديدة (رصّ الأوعية، طيّ المناشف، وضع حاوية في المايكرويف، استبدال المناديل الورقية، ترتيب أغراض في درج)، تفوّق π₀ على ACT وسياسة الانتشار وOpenVLA وOcto. اللافت أن فائدة التدريب المسبق تزداد كلّما كانت بيانات الضبط أقل — عند ساعة واحدة فقط من بيانات الضبط، الفارق يكون كبيراً جداً.
رابعاً، المهام المعقدة متعددة المراحل أثبتت أن π₀ يستطيع إتقان تسلسلات حركية دقيقة تستمر 5–20 دقيقة: طيّ ملابس كامل (من المجفف إلى الطيّ)، وتنظيف طاولة بأغراض لم يرها من قبل، وتجميع صندوق من كرتون مسطّح، وتعبئة بيض. في كل هذه المهام، الجمع بين التدريب المسبق تفوّق على كلا البديلين: التنفيذ المباشر بدون ضبط، والتدريب من الصفر.
لماذا يهمّ هذا: دليل نماذج اللغة الكبيرة ينتقل إلى الروبوتيات
أهمية π₀ لا تقتصر على نتائجه — بل تكمن أساساً في المبدأ الذي يُثبته. نماذج اللغة الكبيرة نجحت بفضل ثلاثة عناصر: تدريب مسبق على بيانات ضخمة من الإنترنت، وبنية المُحوِّل، ووصفة «درِّب أولاً بشكل عام ثم اضبط على المطلوب». ما يُثبته π₀ هو أن هذه الوصفة نفسها تعمل في التحكم الروبوتي — بشرط أن نستبدل التنبؤ الارتجاعي بالنصوص بـمُطابقة التدفق للأفعال.
وهذا يُغيّر قواعد اللعبة. بدلاً من تدريب سياسة مستقلة لكل مهمة ولكل روبوت، تُدرِّب نموذجاً تأسيسياً عاماً واحداً ثم تضبطه حسب الحاجة. هذا يقلب اقتصاديات تعلُّم الروبوتات رأساً على عقب: بيانات أي مهمة وأي روبوت تُصبح مفيدة لكل المهام والروبوتات الأخرى. تسجيل لطيّ الملابس يُحسّن أداء النموذج في تعبئة البقالة، لأن كلتا المهمتين تتضمّنان التعامل مع أجسام مرنة وقابلة للتشوّه.
كذلك يُغيّر تقسيم التدريب إلى مرحلتين نظرتنا لجودة البيانات. لم يعد ضرورياً أن تكون كل البيانات مثالية. البيانات الفوضوية والمتنوعة في التدريب المسبق تُكسب النموذج القدرة على التعامل مع فوضى العالم الحقيقي. والبيانات النظيفة في الضبط الدقيق تُعلّمه كيف يؤدي المهمة المحددة بإتقان. وهذا بالضبط ما يحدث في نماذج اللغة: نصوص الإنترنت تُعلّم المعرفة، وبيانات التعليمات المُنتقاة تُعلّم السلوك المطلوب.
السياق: الطريق إلى النماذج التأسيسية الروبوتية
2022
RT-1 — محوِّل الروبوتيات
أول محوِّل روبوتي واسع النطاق من جوجل. دُرِّب على 130 ألف تسجيل تشمل أكثر من 700 مهمة، وأثبت أن بنية المحوِّل تصلح للتحكم بالروبوتات.
2023
RT-2 — نموذج رؤية-لغة-فعل
أثبت أن نماذج الرؤية واللغة يمكن تحويلها إلى نماذج تحكم روبوتي بمعاملة الأفعال كرموز نصية. نجح في نقل المعرفة من الإنترنت إلى الروبوت، لكنه اعتمد التمثيل الارتجاعي المتقطّع.
2023
سياسة الانتشار وACT
أثبتا أن نماذج الانتشار مع تقطيع الأفعال تُحقق دقة حركية عالية. لكنهما كانا متخصصين بمهمة واحدة ومُدرَّبين من الصفر على بيانات محدودة.
2023
Open X-Embodiment
مشروع تعاوني جمع بيانات من 22 منصة روبوتية مختلفة في مجموعة بيانات موحَّدة. أثبت أن تدريب نموذج واحد على روبوتات متعددة يُحسّن قدرته على التعميم.
2024
π₀ (هذه الورقة)
جمع التدريب المسبق على نموذج رؤية-لغة مع مُطابقة التدفق في نموذج واحد يعمل على أجسام متعددة. حقّق أطول مهام حركية دقيقة سُجِّلت في أدبيات تعلُّم الروبوتات.
π₀ يُمثّل نقطة تلاقٍ مهمة في مسار تعلُّم الروبوتات. يُظهر أن المسارين اللذين نجحا كلٌّ على حدة — وصفة «درِّب مسبقاً واضبط لاحقاً» من عالم اللغة، وتوليد الأفعال عبر مُطابقة التدفق من عالم الحركة — ليسا متوافقين فحسب، بل يُعزّز كلٌّ منهما الآخر. التدريب المسبق الواسع يجعل الضبط الدقيق أكثر كفاءة ويحتاج بيانات أقل، ومُطابقة التدفق تمنح التحكم المبني على نموذج الرؤية واللغة دقةً تكفي للعمل في العالم الحقيقي. هذا التلاقي يُشير بوضوح إلى أن عصر النماذج التأسيسية العامة للروبوتات قد بدأ فعلاً.
المرجعBlack, Brown, Driess, Esmail, Equi, Finn, Fusai, Groom, Hausman, Ichter, Jakubczak, Jones, Ke, Levine, Li-Bell, Mothukuri, Nair, Pertsch, Shi, Tanner, Vuong, Walling, Wang, Zhilinsky. π₀: A Vision-Language-Action Flow Model for General Robot Control. RSS, 2024.
مصطلحات هذه الورقة
- نموذج الرؤية-اللغة-الفعلVision-Language-Action Model
- مطابقة التدفقاتFlow Matching
- تقطيع الأفعالAction Chunking
- النموذج العموميGeneralist Model
- التدريب المسبقPre-training
- الضبط الدقيقFine-Tuning
- نموذج الانتشارDiffusion Model
- فضاء الأفعالAction Space
- تكميم الأفعالAction Tokenization
- العابر للأجسامCross-Embodiment
- التلاعبManipulation
- نموذج الرؤية واللغةVision-Language Model
- المسار الروبوتيRobotic Trajectory
- التلاعب البارعDexterous Manipulation
- مزيج الخبراءMixture of Experts