Copy-on-Write

آلية مشاركة الذاكرة حيث تُشارَك الكتل بين عدة تسلسلات بوصفها قراءة فقط، ولا تُنسخ إلى موقع جديد إلا حين يحتاج أحد التسلسلات إلى الكتابة فيها. هذا يُقلّل نسخ الذاكرة بشكل جذري في العيّنات المتوازية والبحث الشعاعي.

A memory sharing mechanism where blocks are shared across multiple sequences as read-only, and only copied to a new location when one sequence needs to write to them. This drastically reduces memory copies in parallel sampling and beam search.