WaveNet: نموذج توليدي للصوت الخام

قبل WaveNet، كان توليد الكلام يستند إلى أسلوبين، ولكلٍّ منهما عيب جوهري:

• التخليق بالوصل — يأخذ مقاطع قصيرة من كلام بشري مسجَّل ويلصقها ببعضها. الجودة ممتازة داخل كل مقطع، لكن عند نقاط الوصل تظهر تشوّهات واضحة للأذن. ويحتاج النظام إلى قاعدة بيانات ضخمة من التسجيلات، ولا يستطيع إنتاج أي شيء خارج ما سُجِّل مسبقاً.

• التخليق الحدودي — يستخدم نموذجاً إحصائياً (عادةً نموذج ماركوف المخفي) لتوليد سمات صوتية كالنبرة والأغلفة الطيفية، ثم يمرّرها إلى مشفِّر صوتي يحوّلها إلى موجة مسموعة. هذا الأسلوب أسرع وأكثر مرونة، لكن الصوت الناتج يبدو مكتوماً وآلياً لأن المشفِّر الصوتي يعتمد افتراضات مبسَّطة — مثلاً يفترض أن الإشارة الصوتية تتبع توزيعاً غاوسياً، وهذا لا ينطبق على الكلام الحقيقي.

كلا الأسلوبين يشتغل على سمات مُهندَسة يدوياً ولا يقترب من الشكل الموجي الخام. الفلسفة في الحالتين أن الصوت شيء يُجمَّع من قِطع جاهزة، لا شيء يُولَّد من الصفر. والمشكلة الأعمق أن الصوت الخام مرعب الأبعاد: بمعدّل أخذ عيّنات 16 كيلوهرتز، الثانية الواحدة تعني تسلسلاً من 16,000 عيّنة، وكل واحدة منها قد تأخذ أيّ قيمة من 65,536 قيمة ممكنة. لم تنجح أي شبكة عصبية في توليد تسلسلات بهذا الطول وهذه الدقّة.

يستعير WaveNet فكرته الأساسية من PixelCNN: بدلاً من محاولة نمذجة توزيع معقّد دفعة واحدة، فكِّكه إلى سلسلة من التوزيعات الشرطية البسيطة. فإذا كان لدينا شكل موجي صوتي $\mathbf{x} = \{x_1, x_2, \ldots, x_T\}$، يمكن تفكيك الاحتمال المشترك على النحو التالي:

تخيّل الأمر كـراوٍ للقصص لا يقفز أبداً إلى ما سيحدث لاحقاً: كل كلمة (أي كل عيّنة) يختارها وهو يعرف كل ما قيل قبلها، لكنه لا يطّلع أبداً على ما سيأتي بعدها. هذا بالضبط ما يجعل النموذج ذاتي الانحدار — كل تنبّؤ يعتمد حصرياً على الماضي، فيحافظ على سببية زمنية صارمة.

لكن التحدّي الحقيقي هنا أن «قصة» الصوت تُروى بسرعة 16,000 كلمة في الثانية. كيف تمنح النموذج ذاكرة كافية عن الماضي دون أن تحتاج إلى شبكة بعمق مستحيل؟

في الالتفاف القياسي، كل مخرج يستطيع أن يرى مدخلات من الجهتين — الماضي والمستقبل. هذا مقبول في مهام التصنيف مثلاً، لكنه كارثي في التوليد: لا يمكنك التنبّؤ بالعيّنة التالية إن كنتَ قد اطّلعتَ عليها سلفاً.

الالتفاف السببي يحلّ هذا بإزاحة المرشّح بحيث لا ينظر إلا إلى اللحظة الحالية وما قبلها. المخرج عند الزمن $t$ يعتمد فقط على المدخلات عند $t, t-1, t-2, \ldots$ ولا يرى $t+1$ أبداً. فكِّر فيه كمرآة ذات اتجاه واحد: المعلومات تسير إلى الأمام عبر الزمن ولا تعود أبداً.

لكن هناك مشكلة: حقل الاستقبال — أي عدد العيّنات الماضية التي يستطيع النموذج رؤيتها — ينمو خطّياً فقط مع عدد الطبقات. لو أردتَ أن يرى النموذج 1,024 عيّنة ماضية ستحتاج إلى 1,024 طبقة، وهذا غير عملي بالمرّة.

الابتكار المعماري الأساسي في WaveNet هو الالتفاف السببي المتوسِّع. الفكرة بسيطة: بدلاً من أن تقرأ كل طبقة عيّنات متتالية، تتخطّى عدداً ثابتاً من العيّنات بين كل مدخلَين. نمط التخطّي هذا — المسمّى معدّل التوسيع — يتضاعف مع كل طبقة: 1، 2، 4، 8، 16، ...

تخيّل الأمر كطريق سريع فيه مخارج متعدّدة: الطبقة الأولى تتفقّد كل مخرج (توسيع 1)، والثانية تتفقّد مخرجاً من كل اثنين (توسيع 2)، والثالثة مخرجاً من كل أربعة (توسيع 4). بعد 10 طبقات فقط بحجم مرشّح 2، تستطيع الشبكة رؤية $2^{10} = 1{,}024$ عيّنة ماضية — ما يكفي لتغطية نحو 64 ميلي ثانية من الصوت عند 16 كيلوهرتز. كدِّس عدّة كتل من هذا النوع وستغطّي مئات الميلي ثوانٍ، وهذا أكثر من كافٍ لالتقاط إيقاع الكلام ومنحنيات النبرة وبنية المقاطع الصوتية.

هذا النمو الأُسّي هو الحيلة الجوهرية: عمق لوغاريتمي يعطيك حقل استقبال خطّياً. عشر طبقات فقط تمنحك المدى الذي تحتاج إليه ألف طبقة سببية عادية، بكُلفة لا تُقارن.

الصوت الخام يُخزَّن بأعداد صحيحة بعرض 16 بتاً، ما يعني أن كل عيّنة لها 65,536 قيمة محتملة. لو حاولتَ استخدام مخرج softmax على 65,536 فئة لكانت الكُلفة الحسابية هائلة. الحل الذي اعتمده WaveNet هو ضغط μ-law — تحويل لاخطّي مستعار من عالم الاتصالات يضغط المدى كلّه إلى 256 قيمة فقط (8 بت).

والفكرة المفتاحية هنا أن أذن الإنسان تعمل بطريقة لوغاريتمية: الفرق بين شدّتَي صوت 100 و200 يبدو للأذن أكبر بكثير من الفرق بين 10,000 و10,100، مع أن الفارق العددي المطلق متساوٍ تماماً. ترميز μ-law يستغلّ هذه الخاصية فيخصّص دقة أعلى للأصوات الخافتة (حيث آذاننا حسّاسة جداً) ودقة أقل للأصوات العالية (حيث لا نكاد نميّز الفرق أصلاً).

دوال التنشيط البسيطة مثل ReLU تكفي لكثير من المهام، لكن توليد الصوت يحتاج إلى قدرة تعبيرية أكبر. لذلك استعار WaveNet آلية البوّابات من شبكات LSTM: كل طبقة تحسب تحويلَين متوازيَين على المدخل — مرشّح (tanh) يقترح المحتوى المراد إنتاجه، وبوّابة (sigmoid) تقرّر أيّ جزء من هذا المحتوى يُسمح له بالمرور. حاصل الضرب عنصراً بعنصر بين الاثنين يُعطينا المخرج النهائي.

تخيّل الأمر كاستوديو تسجيل: المرشّح هو العازف الذي يعزف كل النغمات الممكنة، والبوّابة هي مهندس الصوت الجالس أمام لوحة المزج يقرّر أيّ القنوات يرفع صوتها وأيّها يُسكتها. لا العازف وحده ولا المهندس وحده يستطيع إنتاج الصوت المطلوب — لكن معاً ينحتان المخرج بدقّة عالية.

WaveNet يستخدم عشرات الطبقات، والشبكات العميقة معروفة بصعوبة تدريبها — فمشكلة تلاشي التدرّجات أو انفجارها تزداد سوءاً كلّما زاد عدد الطبقات التي تمرّ عبرها أثناء الانتشار العكسي. يعالج WaveNet هذا بنوعين من الاختصارات:

• الاتصالات المتبقية تجمع مدخل كل كتلة مباشرةً مع مخرجها: $\text{output} = f(\mathbf{x}) + \mathbf{x}$. الأثر كأنك فتحتَ «ممرّاً سريعاً» يسمح للتدرّجات بالعبور دون عوائق. الكتلة لا تحتاج إلا لتعلّم الفرق — ما الذي ينبغي أن تُضيفه إلى المدخل — بدلاً من حساب التحويل الكامل من الصفر.

• اتصالات التخطّي ترسل المخرج البوّابي لكل كتلة مباشرةً إلى الطبقات الأخيرة في الشبكة، متجاوزةً كل الكتل التي تليها. تصوَّر أن كل طبقة عميقة تفتح نافذة مباشرة إلى السطح، فلا تضيع إشاراتها وهي تمرّ عبر باقي الطبقات. في النهاية تُجمع كل إشارات التخطّي معاً وتُمرَّر عبر طبقتَي ReLU مع التفاف 1×1 ثم softmax للتنبّؤ بالعيّنة التالية.

هذان الاختصاران معاً يسمحان ببناء شبكة أعمق بكثير ممّا يمكن تدريبه عادةً، وهذا العمق الإضافي يترجم مباشرةً إلى حقل استقبال أوسع وجودة صوت أعلى.

بنية WaveNet الكاملة تجمع كل ما سبق في منظومة واحدة:

1. المدخل: عيّنات صوتية خام مُرمَّزة بضغط μ-law إلى 256 قيمة، تدخل الشبكة على شكل متّجهات أحادية الترميز عبر التفاف سببي 1×1.

2. الكتل المتبقية: رصّة من طبقات الالتفاف السببي المتوسِّع مع تنشيط بوّابي. كل كتلة تُنتج مسارَين: مسار متبقٍّ (يُضاف إلى المدخل ويُغذّي الكتلة التالية) ومسار تخطٍّ (يذهب مباشرةً إلى المخرج). معدّلات التوسيع تتضاعف مع كل طبقة: 1، 2، 4، ...، 512، ثم تبدأ الدورة من جديد وتُكرَّر عدّة مرات.

3. المخرج: تُجمع كل اتصالات التخطّي، ثم تُمرَّر عبر ReLU ← التفاف 1×1 ← ReLU ← التفاف 1×1 ← softmax على 256 قيمة. الناتج توزيع احتمالي على العيّنة الصوتية التالية.

يُدرَّب النموذج على تعظيم اللوغاريتم الاحتمالي لبيانات التدريب الصوتية. أمّا عند التوليد، فيسحب عيّنة من التوزيع المتوقَّع، ويعيدها كمدخل، ويكرّر العملية — عيّنة واحدة في كل خطوة.

إذا درّبتَ WaveNet بدون أي تكييف، سيولّد أصواتاً مثيرة للاهتمام لكنها عشوائية وغير موجَّهة — ثرثرة غير مفهومة وأنسجة صوتية محيطة. لجعله مفيداً عملياً، نحتاج إلى تزويده بمعلومات إضافية توجّه ما يولّده.

يدعم WaveNet نوعين من التكييف:

• التكييف الشامل يضيف متّجه تكييف واحداً $\mathbf{h}$ — مثل تضمين هوية المتحدث — إلى كل طبقة. الأمر أشبه بأن تقول للنموذج «تكلَّم بصوت هذا الشخص بالذات» — تعليمة واحدة تسري على الشبكة بأكملها: $\mathbf{z} = \tanh(W_f * \mathbf{x} + V_f^T \mathbf{h}) \odot \sigma(W_g * \mathbf{x} + V_g^T \mathbf{h})$

• التكييف المحلي يزوّد النموذج بإشارة تتغيّر مع الزمن $\mathbf{h}_t$ — كسمات لغوية أو إطارات من مخطّط ميل الطيفي قادمة من واجهة تحويل النص إلى كلام. هذا يخبر النموذج ماذا يقول في كل لحظة بعينها: $\mathbf{z} = \tanh(W_f * \mathbf{x} + V_f * \mathbf{y}) \odot \sigma(W_g * \mathbf{x} + V_g * \mathbf{y})$ حيث $\mathbf{y}$ هي إشارة التكييف بعد رفع معدّل عيّناتها لتطابق دقّة الصوت.

بفضل تكييف المتحدث، يستطيع نموذج WaveNet واحد أن يولّد كلاماً بأصوات مختلفة تماماً — وينتقل بينها بسلاسة بمجرّد تبديل متّجه التكييف.

قُيِّم WaveNet في مهمّة تحويل النص إلى كلام بالإنجليزية والصينية الماندرينية، واستُخدم اختبار متوسط درجة الرأي (MOS) حيث يقيّم مستمعون بشريون طبيعية الصوت على مقياس من 1 (غير طبيعي إطلاقاً) إلى 5 (طبيعي تماماً). وجاءت النتائج لافتة للنظر:

بالإنجليزية حقّق WaveNet درجة 4.21، متفوّقاً بوضوح على التخليق بالوصل (3.86) والتخليق الحدودي (2.17). وبالماندرينية سجّل 4.08 مقابل 4.21 للوصل و2.98 للحدودي. كانت هذه أول مرة يُقلِّص فيها نموذج عصبي الفجوة بشكل جوهري مع الكلام البشري الطبيعي (الذي حصل على 4.55 بالإنجليزية).

ولم يقتصر الأمر على الكلام: حين دُرِّب WaveNet على موسيقى البيانو، ولّد مقاطع موسيقية جديدة التقطت جرس الآلة الواقعي وديناميكيات العزف، بل وبنية لحنية بدائية — كل ذلك دون أي هندسة مخصّصة للموسيقى.

بنية WaveNet — الالتفافات السببية المتوسِّعة والتنشيط البوّابي والاتصالات المتبقية واتصالات التخطّي — صارت القالب المرجعي الذي تُبنى عليه أنظمة توليد الصوت العصبي. الأعمال التي أتت بعده مثل Tacotron 2 وJukebox دفعت الحدود من مقاطع قصيرة إلى كلام وموسيقى بطول كامل. والفكرة المحورية — التوليد الذاتي الانحداري لـالشكل الموجي الخام — أثبتت أن الشبكات العصبية قادرة على إتقان أدقّ المهام التوليدية في عالم الصوت.