الروبوتات2022متوسط11 دقيقة قراءة
RT-1: محوِّل الروبوتات للتحكم الواقعي على نطاق واسع
RT-1: Robotics Transformer for Real-World Control at Scale
Brohan, A. · Brown, N. · Carbajal, J. · Chebotar, Y. · Dabis, J. · Finn, C. · Gopalakrishnan, K. · Hausman, K. · Herzog, A. · Hsu, J. · Ibarz, J. · Ichter, B. · Irpan, A. · Jackson, T. · Jesmonth, S. · Joshi, N. J. · Julian, R. · Kalashnikov, D. · Kuang, Y. · Leal, I. · Lee, K.-H. · Levine, S. · Lu, Y. · Malla, U. · Manjunath, D. · Mordatch, I. · Nachum, O. · Parada, C. · Peralta, J. · Perez, E. · Pertsch, K. · Quiambao, J. · Rao, K. · Ryoo, M. · Salazar, G. · Sanketi, P. · Sayed, K. · Singh, J. · Sontakke, S. · Stone, A. · Tan, C. · Tran, H. · Vanhoucke, V. · Vega, S. · Vuong, Q. · Xia, F. · Xiao, T. · Xu, P. · Xu, S. · Yu, T. · Zitkovich, B. — RSS
المشكلة
بحلول عام 2022 كانت النماذج الكبيرة قد غيّرت قواعد اللعبة في معالجة اللغة والرؤية الحاسوبية: درِّب مرة واحدة على بيانات متنوّعة، ثم استخدم النموذج في كل مكان. أمّا في عالم الروبوتات فالوضع كان مختلفاً تماماً — كل مهمة تحتاج نموذجاً صغيراً خاصاً بها، يُبنى من الصفر على بيانات محدودة ومكلّفة الجمع. المحاولات السابقة مثل Gato لم تستطع التعامل إلا مع عدد قليل من المهام الحقيقية، والأساليب التي تُنفّذ تعليمات نصية كانت تفشل حين تُواجه مهاماً أو أجساماً أو بيئات جديدة. السؤال المحوري كان: هل نستطيع بناء نموذج روبوتي واحد يتعلّم من تجارب حقيقية متنوّعة ويُعمّم بالطريقة نفسها التي تُعمّم بها نماذج اللغة؟
الإسهام
RT-1 نموذج روبوتي مبني على : يستقبل صورة الكاميرا وتعليمة بلغة طبيعية، ويُصدر أوامر حركية منفصلة بمعدل 3 هرتز. البنية مكوّنة من ثلاث مراحل — شبكة EfficientNet مُكيَّفة بآلية FiLM لدمج الرؤية باللغة، ثم TokenLearner لضغط الرموز البصرية، وأخيراً محوِّل يعالج التسلسل الزمني — وهي بنية مدمجة (35 مليون معامل) لكنها قادرة على استيعاب تنوّع كبير. دُرِّب النموذج على 130 ألف تجربة حقيقية تشمل أكثر من 700 مهمة، جُمعت خلال 17 شهراً باستخدام 13 روبوتاً. حقّق RT-1 نسبة نجاح 97% على المهام المعروفة، وتفوّق على جميع النماذج المرجعية في على مهام جديدة (+25%) ومشتّتات بصرية (+36%) وبيئات مختلفة (+18%). كما يتكامل مع إطار SayCan لتنفيذ سلاسل مهام تصل إلى 50 خطوة متتالية.
الأثر
ما أثبتته RT-1 بوضوح هو أن الوصفة التي نجحت في اللغة والرؤية — بيانات ضخمة ومتنوّعة + بنية ذات سعة عالية + هدف تدريبي بسيط — تنجح أيضاً في الروبوتات العاملة في العالم الحقيقي. فتح هذا الباب مباشرةً أمام RT-2 الذي نقل معرفة الويب إلى التحكم الروبوتي عبر نموذج رؤية-لغة-فعل، وأمام مشروع Open X-Embodiment الذي جمع بيانات من 22 روبوتاً في 21 مؤسسة مختلفة. بعبارة أخرى، أثبتت RT-1 أن ذكاء الروبوتات يمكن أن يتحسّن بزيادة البيانات تماماً كما يحدث مع نماذج اللغة، وبذلك دشّنت عصر النماذج التأسيسية في الروبوتات.
تخيّل طاهياً مبتدئاً لا يعرف إلا طبقاً واحداً — كلّما أردتَ تعليمه طبقاً جديداً بدأتَ معه من الصفر، والأسوأ أنه ينسى الطبق السابق. الآن تخيّل طاهياً آخر شاهد آلاف مقاطع الطبخ لمئات الأطباق: تُعطيه بطاقة وصفة («حضّر مكرونة كاربونارا»)، ينظر إلى المكوّنات أمامه، ويعرف تلقائياً ماذا يفعل بيديه — حتى لو لم يُحضّر هذا الطبق من قبل.
RT-1 هو بالضبط هذا الطاهي الثاني، لكن في عالم الروبوتات. بدلاً من بناء «عقل» مستقل لكل مهمة، يتعلّم عقل واحد من أكثر من 700 مهمة عبر 130 ألف تجربة حقيقية. أعطِه أمراً نصياً وصورة من الكاميرا، وسيُحدّد حركات الذراع والقاعدة المطلوبة — حتى لمهام لم يتدرّب عليها من قبل.
المشكلة: نموذج واحد لكل مهمة لا يُوصِل لشيء
في مجالَي معالجة اللغة والرؤية الحاسوبية، استقرّت الوصفة الناجحة: اجمع بيانات ضخمة ومتنوّعة، درِّب واحداً عالي السعة، ثم استخدمه أو اضبطه بدقة لمهام كثيرة. GPT يبتلع نصوص الإنترنت، وCLIP يتعلّم من 400 مليون زوج صورة-نص. هذه النماذج تُعمّم لأنها رأت تنوّعاً هائلاً أثناء .
الروبوتات لم تكن قد وصلت إلى هذه المرحلة. كل مهمة — التقاط إسفنجة، فتح درج، دفع زجاجة — كانت تحتاج بيانات خاصة بها ونموذجاً مُدرَّباً لها وحدها. Gato من DeepMind حاول بناء عام، لكن قدراته الروبوتية في العالم الحقيقي لم تتجاوز مهمة رصّ مكعبات واحدة. وكانت هناك أساليب تُنفّذ تعليمات نصية، لكنها تنهار أمام أيّ جسم أو بيئة لم ترَها من قبل.
المشكلة ذات شقّين: البيانات والبنية. بيانات الروبوتات مُكلفة — تحتاج أجهزة حقيقية ومشغّلين بشريين ووقتاً فعلياً في بيئة حقيقية. وفي الوقت نفسه، يجب أن يعمل النموذج في الزمن الحقيقي على عتاد الروبوت نفسه، وهذا يحدّ من حجمه. RT-1 تُواجه المشكلتين معاً.
بنية RT-1: كيف تتحوّل الصورة والكلام إلى حركة
البنية عبارة عن خطّ معالجة من ثلاث مراحل، كلّ واحدة تُعالج جانباً مختلفاً من المسألة. تخيّلها كأنبوب تتدفّق فيه المعلومات: الصورة تدخل من طرف ككمّ هائل من البكسلات، التعليمة النصية تُوجّه هذا التدفّق نحو ما يهمّ، والطرف الآخر يُخرج أوامر حركية جاهزة للتنفيذ.
المرحلة الأولى — دمج الرؤية واللغة (FiLM-EfficientNet): صورة الكاميرا (300×300 بكسل) تمرّ عبر من شبكة EfficientNet-B3 مُدرَّبة مسبقاً على ImageNet. السؤال هنا: كيف تعرف الشبكة أيّ مهمة مطلوبة منها؟ الحلّ هو آلية FiLM (التعديل الخطي على مستوى السمات): التعليمة النصية تُرمَّز أولاً بمُرمِّز جمل عام مُدرَّب مسبقاً، ثم تُحقن مباشرةً داخل طبقات . عملياً، يُضيف FiLM لكلّ مقياساً وإزاحة يعتمدان على المهمة، وكأنه يقول للشبكة: «ركّزي على كيس الرقائق الأخضر وتجاهلي العلبة الحمراء.»
المرحلة الثانية — ضغط الرموز (TokenLearner): بعد المرحلة الأولى تُنتج كل صورة شبكة مكانية 9×9 من سمات بُعدها 512 — أي 81 . ومع حفظ آخر 6 إطارات كسياق زمني، يصبح المجموع 486 رمزاً — عدد كبير جداً على اللحظي. هنا يأتي TokenLearner الذي يتعلّم أقنعة مكانية تنتقي أهمّ المناطق في الصورة، فيضغط 81 رمزاً إلى 8 فقط لكل إطار. النتيجة: مدخلات المحوِّل تنخفض من 486 إلى 48 رمزاً، وهذا ما يجعل التشغيل بمعدل 3 هرتز ممكناً على عتاد الروبوت.
المرحلة الثالثة — الاستدلال الزمني (المحوِّل): الرموز الـ 48 تدخل محوِّلاً من نوع decoder-only بثماني طبقات . المحوِّل ينظر عبر الإطارات الستة معاً فيلتقط أنماطاً زمنية — مثل «الذراع تقترب من الجسم» أو «القبضة أُغلقت للتو» — ويُخرج تسلسلاً من رموز الأفعال.
تقطيع الأفعال: تحويل الحركة المستمرة إلى رموز
ذراع الروبوت تتحرّك في مستمر — زوايا المفاصل أعداد حقيقية، وفتحة القبضة كسر عشري. لكن المحوِّلات بطبيعتها تعمل مع تسلسلات منفصلة: تختار رمزاً واحداً من قاموس، تماماً كاختيار كلمة من معجم. كيف نردم هذه الفجوة؟ الحلّ هو .
كل فعل مكوّن من 11 بُعداً: 7 للذراع (الموضع في x وy وz، وثلاث زوايا دوران، وفتحة القبضة)، و3 للقاعدة المتحركة (الانتقال في x وy والدوران)، وبُعد واحد لأمر الإنهاء. كل بُعد مستمر يُقسَّم إلى 256 خانة موزّعة بالتساوي على نطاق قيمه الممكنة. مثلاً «حرّك الذراع 3 سم لليمين» يتحوّل إلى الرمز 147 في خانة البُعد x.
بهذه الطريقة تتحوّل مسألة التحكم إلى مسألة : في كل خطوة زمنية يتنبّأ المحوِّل بأحد عشر توزيعاً فئوياً (توزيع لكل بُعد)، كلّ منها على 256 فئة. والتدريب يتمّ بدالة — وهو الهدف نفسه المُستخدَم في تدريب نماذج اللغة.
بيانات على نطاق واسع: 130 ألف حلقة، أكثر من 700 مهمة، 13 روبوتاً
البيانات هي الإسهام الأهم في RT-1 على الأرجح. خلال 17 شهراً، جمع أسطول من 13 روبوتاً متحركاً من Everyday Robots نحو 130 ألف عرض توضيحي تغطّي أكثر من 700 تعليمة. المهام متنوّعة: التقاط، وضع، فتح أدراج وإغلاقها، تدوير أجسام، سحب مناديل. والتعليمات أوامر بلغة طبيعية مثل «التقط لوح شوكولاتة RXBar من الدرج الأوسط» أو «ضع كيس رقائق الهالابينو الأخضر بجانب وعاء الورق.»
ما تُظهره الورقة بوضوح أنّ كمّية البيانات وتنوّعها كلاهما ضروريّ لتحقيق التعميم. زيادة البيانات عشر مرات تُحسّن الأداء، لكنّ إضافة أنواع مهام مختلفة تُحدث فرقاً أكبر. نموذج تدرّب على مهام التقاط بسيطة لكن كثيرة يُعمّم على أجسام جديدة أفضل من نموذج تدرّب على مهام أقل وإن كانت أعقد. الفكرة الجوهرية أنّ المهام تتشارك مهارات فرعية — فالإمساك مثلاً مشترك بين الالتقاط والوضع وفتح الأدراج — وهذا التداخل يسمح للنموذج بتركيب ما تعلّمه بطرق جديدة.
التعميم: مهام جديدة، أجسام جديدة، بيئات جديدة
جرى تقييم RT-1 في أكثر من 3000 تجربة على روبوتات حقيقية — وليس في محاكاة. والنتائج أظهرت ثلاثة أنواع من التعميم. أولاً، التعميم على مهام جديدة: حقّق RT-1 نسبة نجاح 76% على تعليمات لم يرَها أثناء التدريب، مقابل 53% لـ Gato و24% لـ BC-Z. ثانياً، المتانة أمام المشتّتات: حين وُضعت أجسام غريبة على الطاولة كعوامل تشتيت، حافظ RT-1 على نسبة نجاح 83% مقابل 47% لـ Gato. ثالثاً، التعميم على بيئات جديدة: حين نُقل إلى مطابخ بإضاءات وتخطيطات مختلفة وصلت نسبة النجاح إلى 59% مقابل 41% لأقرب نموذج مرجعي.
الورقة تُظهر أيضاً أن RT-1 يتكامل بسلاسة مع إطار SayCan. الفكرة بسيطة: نموذج لغوي كبير يُخطّط سلسلة خطوات عالية المستوى (مثلاً: «سكبتُ شرابي» ← ابحث عن الإسفنجة ← التقطها ← أحضرها إلى الطاولة ← امسح)، وRT-1 يُنفّذ كل خطوة فعلياً. بهذا التكامل أنجز SayCan سلاسل مهام تصل إلى 50 خطوة متتالية — تحسُّن كبير جداً مقارنةً بما كان ممكناً سابقاً.
استيعاب بيانات متباينة: المحاكاة وروبوتات أخرى
سؤال مهم: هل يستفيد RT-1 من بيانات لم تأتِ من روبوته نفسه؟ الورقة تختبر حالتين. الأولى: إضافة حلقات من بيئة محاكاة ذات مظهر بصري مختلف. الثانية: إضافة تجارب حقيقية من ذراع Kuka IIWA — روبوت بشكل جسدي مختلف كلياً. في الحالتين، البيانات الإضافية لم تُضعف الأداء على المهام الأصلية، بل حسّنت التعميم على حالات جديدة. هذه نتيجة بالغة الأهمية: معناها أن تحسين ذكاء الروبوتات لا يتطلّب فقط جمع مزيد من البيانات على روبوت واحد، بل يمكن تجميع خبرات من روبوتات ومحاكيات وأشكال جسدية مختلفة — وهي الرؤية التي تحقّقت لاحقاً في مشروع Open X-Embodiment.
قرارات تصميمية مؤثّرة
تختبر الورقة عدّة قرارات تصميمية بشكل منهجي. TokenLearner ضروري — بدونه إمّا أن يكون النموذج بطيئاً جداً للتحكّم اللحظي، أو يُضطر لتصغيره بحيث يعجز عن استيعاب تنوّع المهام. بثمانية رموز فقط لكل صورة (بدلاً من 81) يعمل الاستدلال بمعدل 3 هرتز مع الحفاظ على الأداء أو تحسينه. سياق الصور من 6 إطارات يتفوّق على الإطار الواحد، لأنّ السياق الزمني يُزيل الغموض (هل الذراع تقترب من الجسم أم تبتعد عنه؟). تقطيع الأفعال إلى 256 خانة يتفوّق على الانحدار المستمر وعلى التقطيع الأخشن معاً. والتكييف بآلية FiLM أفضل من دمج اللغة والرؤية في مرحلة متأخّرة.
مبسَّط لإظهار الفكرة — ليس التنفيذ الحقيقي.
import numpy as np
NUM_BINS = 256 # عدد الخانات لكل بُعد
# كل بُعد من أبعاد الفعل له نطاق [أدنى، أعلى] معروف
ACTION_RANGES = {
"x": (-0.03, 0.03), # بالأمتار
"y": (-0.03, 0.03),
"z": (-0.03, 0.03),
"roll": (-0.25, 0.25), # بالراديان
"pitch": (-0.25, 0.25),
"yaw": (-0.25, 0.25),
"gripper": (0.0, 1.0), # نسبة فتح القبضة
}
def tokenize(value: float, lo: float, hi: float) -> int:
"""حوّل قيمة مستمرة إلى فهرس خانة منفصلة."""
normalized = (value - lo) / (hi - lo) # → [0, 1]
clipped = np.clip(normalized, 0.0, 1.0)
return int(clipped * (NUM_BINS - 1)) # → {0 .. 255}
def detokenize(token: int, lo: float, hi: float) -> float:
"""حوّل فهرس الخانة إلى قيمة مستمرة."""
return lo + (token / (NUM_BINS - 1)) * (hi - lo)
# مثال: تقطيع «تحرك 1.5 سم يميناً في x»
x_value = 0.015
x_lo, x_hi = ACTION_RANGES["x"]
token = tokenize(x_value, x_lo, x_hi) # → 191
reconstructed = detokenize(token, x_lo, x_hi) # → 0.01494…
ما أطلقته RT-1
2018
QT-Opt — الإمساك على نطاق واسع بالتعلّم المعزّز
نموذج إمساك من Google مبني على Q-learning، تدرّب على 580 ألف عملية إمساك حقيقية. أثبت أن الروبوتات تستفيد من بيانات ضخمة، لكنه ظلّ محصوراً في مهمة واحدة فقط.
2022
SayCan — ربط تخطيط النماذج اللغوية بقدرات الروبوت الفعلية
ربط تخطيط النموذج اللغوي الكبير بما يستطيع الروبوت فعله حقاً. النموذج اللغوي يقترح خطوات عالية المستوى، ودالة القيمة تُقيّم أيّها قابل للتنفيذ فعلياً. المشكلة أنه كان يحتاج نموذج تحكّم قوياً في المستوى المنخفض — وRT-1 سدّ هذه الفجوة.
2022
Gato — الوكيل العامّ
وكيل عام من DeepMind يتعامل مع مهام متنوّعة: ألعاب، محادثة، وروبوتات بسيطة. أثبت مبدأ أن نموذجاً واحداً يستطيع أداء أنواع مختلفة من المهام، لكن قدراته الروبوتية في العالم الحقيقي لم تتجاوز مهمة رصّ مكعبات واحدة.
2022
RT-1 — هذه الورقة
أول نموذج روبوتي يستوعب أكثر من 700 مهمة حقيقية في محوِّل واحد. أثبت أن زيادة حجم البيانات وتنوّعها في عالم الروبوتات لا يرفع الأداء فحسب، بل يُمكّن التعميم الحقيقي.
2023
RT-2 — نموذج رؤية-لغة-فعل
انطلق من بيانات RT-1 ووصفته. أخذ نموذج رؤية-لغة (PaLI-X) مُدرَّباً على بيانات الويب ثم ضبطه لإصدار أفعال روبوتية. النتيجة أن معرفة الويب انتقلت إلى الروبوت — مثلاً يفهم «حرّك علبة الكولا إلى تايلور سويفت» دون أن يتدرّب على التعرّف على المشاهير.
2023
Open X-Embodiment — تجميع بيانات الروبوتات عبر المؤسسات
22 نوعاً من الروبوتات من 21 مؤسسة، وأكثر من مليون تجربة. دُرّبت نماذج RT-X على البيانات المُجمَّعة. والنتيجة الأساسية: التدريب على بيانات من روبوتات مختلفة يُحسّن أداء كل روبوت منها على حدة — أي أن نقل الخبرة بين الأشكال الجسدية ينجح فعلاً.
ما يبقى من RT-1 ليس تفصيلة معمارية بعينها — بل إثبات أن وصفة النماذج التأسيسية تعمل في عالم الروبوتات الحقيقي. بيانات ضخمة ومتنوّعة + نموذج ذو سعة عالية + هدف تدريبي بسيط = روبوت قادر على التعميم. هذه المعادلة هي التي تقود المجال اليوم بأكمله: من نقل معرفة الويب في RT-2، إلى تجميع بيانات المؤسسات في Open X-Embodiment، إلى أحدث نماذج الرؤية-اللغة-الفعل. كل مختبر بحثي يُدرّب اليوم نموذجاً روبوتياً عاماً على تجارب متنوّعة، يسير على الطريق الذي فتحه RT-1.
المرجعBrohan, Brown, Carbajal, Chebotar, et al.. RT-1: Robotics Transformer for Real-World Control at Scale. RSS, 2023.
مصطلحات هذه الورقة
- تكميم الأفعالAction Tokenization
- الاستنساخ السلوكيBehavioral Cloning
- التعلّم بالتقليدImitation Learning
- المحوِّلTransformer
- مرمِّز بصريVision Encoder
- وحدة لغوية (رمز)Token
- التعميمGeneralization
- النمط الصفريZero-Shot
- النقل من المحاكاة إلى الواقعSim-to-Real
- التلاعبManipulation
- نموذج أساسيFoundation Model
- السياسة البصرية-الحركيةVisuomotor Policy
- الذكاء المُجسَّدEmbodied AI
- جولة تفاعلية كاملةEpisode
- البنية الأساسيةBackbone