Shared Network

شبكة عصبية واحدة يتشارك فيها جميع العمّال المتوازيون، يدفع كلٌّ منهم تدرّجاته إليها ويسحب منها أحدث المعاملات.

A single neural network shared by all parallel workers, where each pushes gradients to it and pulls the latest parameters from it.