الذكاء متعدد الوسائط2023متقدم12 دقيقة قراءة

Gemini: عائلة نماذج فائقة القدرات تجمع بين وسائط متعددة

Gemini: A Family of Highly Capable Multimodal Models

Gemini Team · Anil, R. · Borgeaud, S. · Alayrac, J.-B. · Yu, J. · Soricut, R. · Schalkwyk, J. — arXiv

المشكلة

بحلول أواخر 2023 كانت النماذج اللغوية الكبيرة قد أثبتت براعتها في التعامل مع النصوص، لكنها ظلّت محدودة الفهم حين يتعلّق الأمر بالصور أو الصوت أو الفيديو. الحل السائد آنذاك كان تركيب وحدة رؤية أو سمع فوق نموذج نصي جاهز — كمن يضع سمّاعات على شخص لم يسمع الموسيقى قط ويتوقّع منه قيادة أوركسترا. هذا الربط اللاحق كان يُفقد كثيراً من التفاصيل الدقيقة التي تربط الوسائط ببعضها. ما كان المجال يحتاجه فعلاً هو نموذج يتعلّم من النص والصور والصوت والفيديو معاً منذ لحظته الأولى، ويستطيع الانتقال بسلاسة من خوادم عملاقة إلى هاتف في جيبك.

الإسهام

قدّم Gemini ثلاثة نماذج — Ultra وPro وNano — تعلّمت النص والصور والصوت والفيديو معاً منذ البداية، لا كوحدات منفصلة رُكِّبت فوق بعضها. جميع أنواع البيانات تدخل محوّلاً موحداً يعالجها في تسلسل واحد، فيتشكّل فهم حقيقي يربط بين الوسائط بدل مجرد ترجمة بينها. حقّق Gemini Ultra دقة 90.04% في معيار ليصبح أول نموذج يتفوّق على الخبراء البشريين، وتصدّر 30 من أصل 32 معياراً شملت جميع المعايير العشرين متعددة الوسائط. وأثبتت نسخ Nano أن من النماذج الكبرى وضغطها إلى 4 بتات كافٍ لتشغيل قدرات متقدّمة على هاتف محمول.

الأثر

غيّر Gemini قواعد اللعبة في سباق الذكاء الاصطناعي. أثبت عملياً أن تعليم النموذج جميع الوسائط منذ البداية يتفوّق على تركيب وحدة بصرية فوق نموذج نصي جاهز. تقسيمه إلى ثلاثة أحجام — Ultra وPro وNano — صار القالب الذي تتبعه المختبرات لنشر نماذجها من السحابة حتى الهاتف. ومن Nano خرجت عائلة Gemma مفتوحة الأوزان، ففتحت الباب أمام مجتمع البحث للاستفادة من تقنيات Gemini. والدرس الأهم: بنية واحدة تتقن النص والصور والصوت والفيديو معاً رسمت الاتجاه الذي سار عليه كل تطوير لاحق في النماذج الأساسية.

تخيّل قائد أوركسترا نشأ وهو يعزف على كل آلة في الفرقة — ليس عازف بيانو قرّر لاحقاً أن يقود. هذا القائد يعرف إحساس وتر الكمان تحت الأصابع، ويعرف كيف يسمع الطبّال إيقاعه من خلف المجموعة، ويعرف كيف تقرأ الجوقة كلماتها على الورق — لذلك يستطيع أن يصهر كل هذا في عمل واحد متناغم، بطريقة لا يقدر عليها قائد جاء من تخصّص واحد.

النماذج متعددة الوسائط قبل Gemini كانت أشبه بعازف بيانو طُلب منه قيادة الأوركسترا: متمكّن من آلته، لكنه يحاول فهم كل شيء آخر بمصطلحات البيانو. Gemini هو القائد الذي يتكلّم لغة كل آلة بطلاقة منذ يومه الأول.

المشكلة: لماذا لا يكفي تركيب الوسائط فوق بعضها

قبل Gemini كان بناء نظام ذكاء اصطناعي يفهم أكثر من وسيط يمرّ بمرحلتين منفصلتين. المرحلة الأولى: ندرّب نموذجاً لغوياً قوياً على النصوص حتى يتقنها. المرحلة الثانية: نأتي بـ منفصل — غالباً من نوع — ونربطه بالنموذج اللغوي عبر طبقة وسيطة تُحوِّل سمات الصورة إلى يفهمها النموذج. نماذج مثل Flamingo وPaLI سارت على هذا الدرب وحقّقت نتائج مبهرة.

لكن هذا النهج التسلسلي يحمل قيداً جوهرياً: النموذج اللغوي لم يُصمَّم أصلاً للتفكير بالصور. ما يصله ليس الصورة ذاتها بل ملخّص لها — كمن يصف لك لوحة بالكلمات بدل أن يُريك إياها. التفاصيل المكانية الدقيقة والأنماط الزمنية في الفيديو ونبرات الصوت — كلها تضيع أو تُشوَّه في هذه «الترجمة». النموذج لا يستطيع التفكير فيما لم يرَه فعلاً.

تخيّل أنك تتعلّم الموسيقى بقراءة أوصاف للأغاني بدل سماعها. قد تحفظ أن هذا اللحن سريع وذاك بطيء، لكنك لن تشعر يوماً بجمال لحنٍ — لأنك لم تسمع لحناً قط.

افتح في المختبر
قارن بين النهج التسلسلي (مُرمِّزات منفصلة تُركَّب فوق نموذج نصي) ونهج Gemini الأصلي (كل الوسائط تتعلّم معاً من الصفر).
تستيقظ التجربة عند وصولك…

البنية: محوِّل واحد يستوعب كل الوسائط

من الناحية البنيوية، Gemini عبارة عن مبني على بنية — الأساس نفسه الذي يقوم عليه GPT-4 وPaLM. الفرق الجوهري ليس في البنية بل في ما يدخل إليها. بدل أن يرى النموذج نصاً فقط، يستقبل Gemini تسلسلاً واحداً تتناوب فيه النص مع رموز الصور والصوت والفيديو، وتمرّ جميعها عبر طبقات ذاتها.

كيف تدخل كل وسيط؟ الصور تُقطَّع إلى رُقع صغيرة وتُحوَّل إلى بالبُعد نفسه المستخدم للنص. الفيديو يُعامَل ببساطة كسلسلة من الإطارات. أما الصوت فيُعالَج عند تردد 16kHz باستخدام سمات نموذج الكلام الشامل (USM) التي تحتفظ بنبرة الصوت وهوية المتحدّث — تفاصيل تضيع لو اكتفينا بتحويل الكلام إلى نص. النتيجة: كل هذه الرموز تمرّ عبر طبقات نفسها، فيتعلّم النموذج الروابط بين الوسائط بشكل مباشر.

لتسريع المعالجة يعتمد Gemini على ، ويدعم تتسع لـ 32 ألف رمز. النماذج مُحسَّنة للعمل على مسرّعات من Google، مع تحسينات بنيوية تضمن استقرار على نطاقات غير مسبوقة.

افتح في المختبر
استكشف كيف تتدفق رموز النص والصور والصوت والفيديو عبر محوِّل Gemini الموحّد. انقر على كل وسيط لترى طريقة ترميزه.
تستيقظ التجربة عند وصولك…

الابتكار الحقيقي ليس في أي مكوّن معماري بعينه — فكل من انتباه الاستعلام المتعدد وتضمينات الرُّقع والنماذج أحادية المُفكِّك كانت موجودة قبل Gemini. ما يميّز هذا العمل هو القرار بتدريب نموذج واحد على كل الوسائط معاً من الصفر، فينمو الفهم العابر للوسائط بشكل طبيعي بدل أن يُركَّب لاحقاً.

الفرق كالفرق بين من يتعلّم الطبخ باتباع وصفات مكتوبة وبين من يتعلّمه بالتذوّق والشمّ والتجريب مع المكوّنات. كلاهما يُنتج وجبات، لكن الثاني يطوّر حسّاً لا تستطيع أي وصفة أن تمنحه إياه.

ثلاثة أحجام، عائلة واحدة: Ultra وPro وNano

يأتي Gemini 1.0 بثلاثة أحجام، كلٌّ منها مصمَّم لسيناريو مختلف. Ultra هو الأكبر والأقوى، مخصَّص للمهام التي تحتاج دقة عالية في حتى لو كلّف ذلك وقتاً أطول. Pro يوازن بين التكلفة والسرعة والأداء — النموذج الذي تعتمد عليه في الإنتاج يومياً. Nano مصمَّم ليعمل على الهاتف مباشرة، ويأتي بنسختين: Nano‑1 بـ 1.8 مليار معامل للأجهزة محدودة الذاكرة، وNano‑2 بـ 3.25 مليار معامل للأجهزة الأقوى.

ما يلفت الانتباه في نماذج Nano هو طريقة بنائها: تُستخلص معرفتها من النماذج الأكبر عبر التقطير المعرفي، ثم تُضغط إلى 4 بتات فقط عبر . هذه العملية تثبت أن بإمكاننا أخذ فهم نموذج عملاق وتعبئته في نموذج صغير يعمل على هاتف ذكي دون إنترنت.

افتح في المختبر
قارن بين أحجام Gemini الثلاثة: Ultra للمهام الأصعب، Pro للنشر المتوازن، Nano للذكاء على الجهاز.
تستيقظ التجربة عند وصولك…

التدريب: البيانات والترميز والنطاق

تتعلّم نماذج Gemini من مجموعة بيانات ضخمة تمزج بين اللغات والوسائط: صفحات ويب وكتب وشيفرات برمجية وصور وتسجيلات صوتية ومقاطع فيديو. هذا التنوّع ليس ترفاً بل ضرورة، لأن النموذج حين يرى صورة وإلى جانبها النص الذي يصفها يبني روابط لن تتشكّل أبداً من نصوص وحدها.

أداة المستخدمة هي SentencePiece، وقد دُرِّبت على عيّنة كبيرة من بيانات التدريب نفسها. الفائدة من ذلك أن المُرمِّز يتعرّف على الأنماط الفعلية في البيانات — بما فيها اللغات غير اللاتينية — فتصبح عملية الترميز أكثر كفاءة. النتيجة: مُرمِّز واحد يتعامل مع العربية والصينية والإنجليزية والشيفرات البرمجية بعدالة، ما يُحسّن جودة النموذج وسرعة الاستدلال لجميع المستخدمين.

من حيث حجم التدريب، اتبع الفريق نهج من عمل Chinchilla: النماذج الكبرى تحصل على العدد الأمثل حسابياً من الرموز، بينما نماذج Nano الصغيرة تُدرَّب عمداً على رموز أكثر مما تقترحه هذه القوانين — الهدف هو عصر أقصى أداء ممكن ضمن ميزانية استدلال محدودة، وهو النهج نفسه الذي تبنّاه LLaMA.

افتح في المختبر
تتبّع رحلة البيانات من مصادرها الخام مروراً بالترميز وحتى دخولها المحوِّل الموحّد في Gemini.
تستيقظ التجربة عند وصولك…

النتائج: تجاوز الخبراء البشريين في MMLU

حقّق Gemini Ultra دقة 90.04% في MMLU — وبذلك صار أول نموذج يتجاوز مستوى الخبراء البشريين (89.8%). يغطي MMLU سبعاً وخمسين مادة تمتد من القانون والأحياء إلى التاريخ والرياضيات، وكان أفضل رقم سابق 86.4% فقط.

السر وراء هذه القفزة تقنية ذكية اسمها الموجَّهة بعدم اليقين. الفكرة بسيطة: حين يكون النموذج واثقاً من إجابته يُجيب فوراً. لكن حين تكون ثقته منخفضة يتحوّل إلى وضع «التفكير بصوت عالٍ» ويحلّ المسألة خطوة بخطوة قبل أن يُقرّر. هذا التبديل التلقائي رفع الدقة من 83.7% (بخمسة أمثلة) إلى 90.04%.

ولم تتوقف النتائج عند MMLU. حقّق Gemini Ultra أيضاً 94.4% في GSM8K (رياضيات ابتدائية) و74.4% في HumanEval (توليد شيفرات برمجية) و53.2% في MATH (رياضيات مسابقات). من أصل 32 معياراً نصياً واستدلالياً تصدّر Gemini Ultra ثلاثين منها.

افتح في المختبر
قارن أداء Gemini Ultra مع GPT-4 وأفضل النتائج السابقة عبر المعايير الرئيسية. انقر على اسم المعيار لمزيد من التفاصيل.
تستيقظ التجربة عند وصولك…

نتائج تعدد الوسائط: الريادة عبر الرؤية والصوت والفيديو

هنا يظهر الفارق الحقيقي لنهج Gemini. في كل واحد من المعايير العشرين متعددة الوسائط حقّق Gemini أفضل نتيجة على الإطلاق. يشمل ذلك مهام فهم الصور مثل MMMU بنسبة 62.4% (استدلال بمستوى جامعي يمزج بين النص والصور)، وTextVQA (الإجابة عن أسئلة تتطلّب قراءة نصوص داخل صور)، وDocVQA (فهم المستندات)، وMathVista (حل مسائل رياضية من رسوم بيانية).

في الفيديو يستطيع Gemini استيعاب تسلسل الإطارات مباشرة داخل نافذة السياق الواسعة، فيصبح قادراً على فهم السبب والنتيجة في مقطع أو تتبّع جسم عبر مشاهد متعاقبة — وهي مهام تتعثّر فيها النماذج التسلسلية. أما في الصوت، فترميز USM يحتفظ بنبرة المتحدّث وهويته، ما يتيح فهماً أعمق بكثير من مجرد تحويل الكلام إلى نص.

هذه النتائج تُثبت عملياً فرضية التدريب الأصلي : النموذج الذي نشأ على النص والصور معاً يبني تمثيلات أغنى بكثير من نموذج أتقن النص أولاً ثم حاول استيعاب الصور لاحقاً.

افتح في المختبر
أمثلة حيّة على قدرة Gemini في الربط بين الوسائط: قراءة رياضيات بخط اليد، وتفسير مخططات، واستدلال مبني على صور.
تستيقظ التجربة عند وصولك…

ما بعد التدريب: المحاذاة والأمان والنشر المسؤول

بعد انتهاء مرحلة التدريب الأساسي تمرّ نماذج Gemini بمرحلة تشذيب وصقل تتضمن خطوتين. الخطوة الأولى: (SFT) — حيث يتعلّم النموذج من أمثلة عالية الجودة كيف يتّبع التعليمات ويُنتج إجابات واضحة ومفيدة. الخطوة الثانية: (RLHF) — حيث يُصقَل النموذج ليصبح أدق وأكثر أماناً بناءً على تقييمات بشرية.

الأمان لم يكن إضافة في اللحظة الأخيرة. أجرى الفريق تقييمات أثر شاملة، ووضع سياسات تغطّي أمان المحتوى والتحيّزات التمثيلية، ونفّذ جولات مكثّفة من اختبارات . وللمخرجات متعددة الوسائط تحديداً طُوِّرت مجموعات بيانات ومرشّحات خاصة للحدّ من التوليدات الضارة. خفّضت هذه التدخّلات الأخطاء الواقعية من 6.7% إلى 3.8% وحسّنت معدّلات إسناد المعلومات إلى مصادرها.

هذا النهج يعكس قناعة ناضجة في المجال: بناء نماذج قوية ونشرها بأمان ليسا هدفين يتنافسان على الموارد — بل وجهان لعملة واحدة.

الاستدلال العابر للوسائط: ما يستطيعه Gemini ولا يستطيعه غيره

تستعرض الورقة أمثلة توضّح قدرات لم تكن ممكنة من قبل. في أحد الأمثلة يُقدّم طالب حلاً مكتوباً بخط اليد لمسألة فيزياء. يقرأ Gemini الخط ويفهم المسألة ويتحقّق من خطوات الحل الرياضي ويكتشف خطأ الطالب ويُصحّحه بصيغة LaTeX — كل ذلك دفعة واحدة. لاحظ أن هذا يتطلّب أربع قدرات في آن: قراءة خط يد، ومعرفة فيزيائية، وتحقّق رياضي، وتوليد LaTeX.

في مثال آخر ينظر Gemini إلى رسم بياني أنتجته شيفرة matplotlib ويقترح تحسينات — فهو يفهم شكل المخطط والشيفرة التي ولّدته في الوقت نفسه. وفي مثال ثالث يحلّل تسلسل إطارات من مباراة كرة قدم ويقترح تحسينات تقنية للاعب.

هذه ليست حيلاً انتُقيت بعناية، بل نتائج طبيعية لنموذج نشأ على النص والصور والشيفرات والرياضيات معاً. حين تكون كل هذه الوسائط جزءاً من تجربة التعلّم منذ البداية، فإن المزج بينها لا يُعدّ قدرة استثنائية — بل هو الوضع الطبيعي للعمل.

الشيفرة: كيف تتدفق الرموز متعددة الوسائط عبر Gemini

شيفرة توضيحية: معالجة المدخلات متعددة الوسائط في Geminipython

مبسَّط لإظهار الفكرة — ليس التنفيذ الحقيقي.

# Gemini يعالج تسلسلاً واحداً تتناوب فيه وسائط مختلفة
# كل وسيط يتحوّل إلى رموز تدخل التسلسل نفسه

def process_multimodal_input(text, images, audio, video):
    tokens = []

    # النص: ترميز عبر SentencePiece
    text_tokens = sentencepiece_tokenize(text)
    tokens.extend(text_tokens)

    # الصور: تقطيع إلى رُقع ثم تحويل إلى تضمينات
    for img in images:
        patches = split_into_patches(img, patch_size=14)
        img_tokens = visual_encoder(patches)  # على طريقة ViT
        tokens.extend(img_tokens)

    # الصوت: استخلاص سمات USM عند تردد 16kHz
    if audio is not None:
        audio_features = usm_encode(audio, sample_rate=16000)
        tokens.extend(audio_features)

    # الفيديو: معاملته كسلسلة من إطارات الصور
    if video is not None:
        frames = extract_frames(video)
        for frame in frames:
            frame_tokens = visual_encoder(split_into_patches(frame))
            tokens.extend(frame_tokens)

    # جميع الرموز تدخل المحوِّل نفسه
    # انتباه الاستعلام المتعدد يسرّع المعالجة
    output = transformer_decoder(
        tokens,
        context_length=32768,
        attention_type="multi_query"
    )
    return output

الإرث: من Gemini إلى عصر تعدد الوسائط

  1. 2022

    Flamingo وPaLI: الرواد الأوائل

    أثبت Flamingo وPaLI أن بالإمكان ربط مُرمِّزات بصرية بنماذج لغوية لفهم الصور والنصوص معاً — لكنها ظلّت وحدات منفصلة رُكِّبت فوق نموذج نصي جاهز.

  2. 2023

    GPT-4V: الرؤية كإضافة لاحقة

    أضافت OpenAI قدرات بصرية إلى GPT-4 في نسخة GPT-4V. نموذج قوي، لكنه في جوهره نموذج نصي رُكِّبت عليه الرؤية — أفضل ما يمكن للنهج التسلسلي تقديمه.

  3. 2023

    Gemini 1.0: تعلُّم كل الوسائط منذ اللحظة الأولى

    أول نموذج يتعلّم النص والصور والصوت والفيديو معاً منذ البداية. تصدّر 30 من 32 معياراً وأسّس بنية العائلة بأحجامها الثلاثة Ultra وPro وNano.

  4. 2024

    Gemini 1.5: مليون رمز في نافذة واحدة

    وسّع نافذة السياق من 32 ألف إلى مليون رمز مع استرجاع شبه كامل، فصار بإمكان النموذج استيعاب كتب بأكملها وساعات فيديو وقواعد شيفرات ضخمة في طلب واحد.

  5. 2024

    Gemma: نماذج مفتوحة من سلالة Gemini

    أطلقت Google عائلة Gemma — نماذج مفتوحة الأوزان استُخلصت معرفتها من تقنيات Gemini، ففتحت باب القدرات المتقدّمة أمام مجتمع الباحثين.

أثر Gemini يتجاوز الأرقام التي حقّقها في المعايير. أثبت عملياً أن النموذج الذي ينشأ على كل الوسائط منذ البداية يبني فهماً مختلفاً نوعياً — وأعمق — من نموذج رُكِّبت عليه الرؤية لاحقاً. منذ ذلك الحين تحوّلت المختبرات الكبرى جميعها نحو التدريب الأصلي متعدد الوسائط. واستراتيجية النشر على ثلاث طبقات (سحابة، حافة، جهاز) صارت القالب الذي يحتذيه الجميع. أما مسار التقطير من Ultra إلى Nano ثم إلى Gemma المفتوحة فقد أثبت أن النموذج المتقدّم والعلم المفتوح يمكن أن يسيرا معاً.

المرجعGemini Team, Anil, Borgeaud, Alayrac, Yu, Soricut, Schalkwyk, et al.. Gemini: A Family of Highly Capable Multimodal Models. arXiv, 2023.

مصطلحات هذه الورقة