المعجم

الجمع الشامل

All-Gather

عملية تواصل جماعي يُرسل فيها كل جهاز شريحته من البيانات إلى جميع الأجهزة الأخرى، فتحصل كل وحدة في النهاية على البيانات الكاملة مُعاد تجميعها.

A collective communication operation where each device sends its data shard to all other devices, so every device ends up with the full reassembled data.

تُرجم أيضاًالتجميع الكامل

أول ظهور في هذه المجموعة: ZeRO: تحسينات الذاكرة نحو تدريب نماذج بتريليون معامل (2019)

يظهر في هذه الأوراق