الشبكات العصبية1982تأسيسي9 دقيقة قراءة
الشبكات العصبية والأنظمة الفيزيائية ذات القدرات الحوسبية الجماعية الناشئة
Neural Networks and Physical Systems with Emergent Collective Computational Abilities
Hopfield, J. J. — PNAS
المشكلة
قبل عام 1982 كانت نماذج الشبكات العصبية تركّز إمّا على خلية عصبية واحدة أو على اتصالات أمامية بسيطة، ولم يكن هناك إطار مبدئي يُظهر كيف يمكن لمجموعة كبيرة من وحدات بسيطة شبيهة بالخلايا العصبية أن تخزّن الذكريات وتسترجعها بشكل جماعي. ذاكرة الحاسوب التقليدية تعمل بالعناوين — تحتاج إلى الموقع الدقيق لاسترجاع البيانات. لكن الذاكرة البيولوجية ذاكرة ترابطية قابلة للعنونة بالمحتوى — تلميح جزئي يكفي لاستحضار الذاكرة كاملة. لم يكن لدى أحد مقنع يوضّح كيف يمكن لهذه الخاصية أن تنبثق من ديناميكيات وحدات شبيهة بالخلايا العصبية.
الإسهام
اقترح هوبفيلد شبكة تكرارية من خلايا عصبية ثنائية ذات اتصالات متناظرة، تُدرَّب بقاعدة التعلّم الهِبّي. وأثبت أن لهذه الشبكة دالة طاقة — مستعارة من فيزياء — تتناقص مع كل تحديث لخلية عصبية، مما يضمن التقارب نحو حالات مستقرة. تعمل هذه الحالات المستقرة كذكريات مخزّنة: أدخِل نسخة جزئية أو مشوَّشة من نمط ما، وستسترخي الشبكة نحو أقرب نمط مخزَّن. كان هذا أول نموذج يمنح أساساً فيزيائياً ورياضياً صارماً.
الأثر
أعادت شبكة هوبفيلد إشعال الاهتمام بالشبكات العصبية في فترة كان فيها الشك عميقاً تجاه هذا المجال (شتاء الذكاء الاصطناعي). ألهمت مباشرةً آلة بولتزمان التي أضافت التعلّم عبر وحدات خفية وديناميكيات عشوائية. المنظور القائم على الطاقة الذي قدّمته أصبح أساساً لفئة كاملة من النماذج — من آلات بولتزمان إلى النماذج الحديثة القائمة على الطاقة. كما أرسى هذا البحث الجسر بين الفيزياء الإحصائية والحوسبة العصبية، وهو جسر لا يزال يشكّل هذا المجال حتى اليوم.
تخيّل أرضاً وَعِرة فيها وديان عميقة متناثرة. كل وادٍ يمثّل ذاكرة مخزَّنة. الآن تصوَّر أنك تمسك كرة وتقف في نقطة عشوائية على هذه التضاريس — الكرة تمثّل مُدخَلاً ناقصاً أو مشوَّشاً. حين تُفلت الكرة، تسحبها الجاذبية إلى قاع أقرب وادٍ. هذا بالضبط ما تفعله شبكة هوبفيلد عند الاسترجاع: «الجاذبية» هنا هي ، وقيعان الوديان هي الأنماط التي خزّنتها .
المدهش في الأمر أن هذه الوديان لم يصنعها أحد يدوياً، بل تتشكّل وحدها تلقائياً بمجرد ضبط بين باستخدام قاعدة بسيطة مبنيّة على الأنماط المراد حفظها.
المشكلة: كيف يمكن لوحدات بسيطة أن تتذكّر بشكل جماعي؟
ذاكرة الحاسوب التقليدي تشبه أدراج مرقَّمة: لكل قطعة بيانات عنوان محدد، وإن لم تعرف العنوان بالضبط فلن تصل إلى شيء.
الذاكرة البيولوجية مختلفة تماماً. يكفيك طرف خيط لتسترجع الصورة كاملة: لمحة سريعة من وجه صديق تكفي لتعرفه، وأول نغمات أغنية تستدعي بقيّتها، وجزء من رقم هاتف قد يقودك إلى الرقم كله. هذا النوع هو ما يُسمى بالذاكرة القابلة للعنونة بالمحتوى — المحتوى نفسه هو مفتاح البحث وليس موقع التخزين.
قبل ورقة هوبفيلد عام 1982، لم يكن هناك نموذج واضح يبيّن كيف لشبكة كبيرة من وحدات بسيطة شبيهة بـالخلايا العصبية أن تُنتج هذا السلوك. كانت قاعدة التعلّم الهِبّي معروفة، وكان الفيزيائيون قد درسوا أنظمة الزجاج المغزلي — وهي مواد مغناطيسية مضطربة — لكن لم يربط أحد هذه الأفكار معاً في نموذج عملي يضمن رياضياً.
البنية: خلايا عصبية ثنائية متصلة بالكامل
بنية شبكة هوبفيلد بسيطة جداً. لديك خلية عصبية، كل واحدة منها إما مُفعَّلة (+1) أو مُطفأة (−1). كل خلية متصلة بجميع الخلايا الأخرى من خلال وزن متناظر ، ولا خلية تتصل بنفسها ().
لا توجد ولا فصل بين مدخلات ومخرجات، ولا مرحلة مستقلة بالمعنى المعتاد. الشبكة كلها عبارة عن حوض واحد من وحدات مترابطة — في أبسط أشكالها. حالة الشبكة في أي لحظة هي من قيمة ثنائية، أي نقطة واحدة في فضاء ذي بُعداً.
التعلّم: الخلايا التي تنشَط معاً ترتبط معاً
السؤال الآن: كيف نختار الأوزان حتى تحفظ الشبكة أنماطاً بعينها؟ اعتمد هوبفيلد على فكرة مستوحاة من مبدأ هِبّ (1949): إذا نشَطَت خليتان معاً في نمط معيَّن، قوِّ الرابط بينهما؛ وإذا نشَطَت إحداهما وسكنت الأخرى، أضعِف الرابط.
بشكل رياضي، لنفترض أن لدينا نمط نريد حفظها: ، كل نمط منها متجه من قيمة في . الوزن بين الخليتين و يُحسَب بجمع حاصل ضرب قيمتيهما عبر جميع الأنماط.
تخيّل أن كل وزن هو نتيجة استفتاء: كل نمط مخزَّن يُصوِّت على مدى قوة الربط بين الخليتين و. حين تكون الخليتان في الحالة نفسها داخل نمط ما، يُضاف صوت إيجابي؛ وحين تختلفان، يُضاف صوت سلبي. المحصّلة النهائية هي إجماع جميع الذكريات المخزَّنة.
الفكرة المحورية: دالة الطاقة تضمن التقارب
الإسهام الأهم لهوبفيلد لم يكن تصميم الشبكة بحد ذاته، بل إثباته أن لها دالة طاقة — قيمة عددية واحدة لا تزداد أبداً مع كل تحديث لأي خلية عصبية. الفكرة مأخوذة من الفيزياء مباشرة: الشبكة تتصرّف كنظام فيزيائي ينحدر تلقائياً نحو وضع التوازن.
العلاقة بالفيزياء ليست مجرد تشبيه، بل تكافؤ رياضي حقيقي. شبكة هوبفيلد مكافئة لنموذج آيزنغ في الميكانيكا الإحصائية — وهو النموذج الذي يصف به الفيزيائيون سلوك المغناطيسات. الخلايا العصبية تناظر اللفّات المغناطيسية، والأوزان تناظر شدة التآثر بين الذرات، ودالة الطاقة هي الهاملتونيان نفسه. الحالات المستقرة التي تصل إليها الشبكة هي بالضبط لمشهد الطاقة — أي «الوديان» التي تحدّثنا عنها في التشبيه.
قاعدة التحديث: كيف تقرّر الخلايا العصبية
في كل خطوة تُختار خلية عصبية واحدة فقط — واحدة في كل مرة وليس الكل دفعةً واحدة. هذه الخلية تحسب المجموع الموزون لحالات جميع الخلايا الأخرى: إن كانت المحصّلة موجبة تُفعَّل (+1)، وإن كانت سالبة تُطفأ (−1). قاعدة عتبة لا أبسط منها.
رياضياً، قاعدة التحديث للخلية هي:
تخيّل لجنة يُراجع فيها كل عضو موقفه بناءً على آراء من يثق بهم (أوزان موجبة) ومن يخالفهم (أوزان سالبة). العملية تسير بالتناوب: كل عضو يُحدِّث رأيه بمفرده، ثم ينتقل الدور للتالي. شيئاً فشيئاً تصل اللجنة إلى إجماع مستقر — وهذا الإجماع هو الذاكرة المُسترجعة.
التحديث بالتناوب شرط جوهري. لو حُدِّثت جميع الخلايا في اللحظة نفسها، لا شيء يضمن انخفاض الطاقة وقد تتأرجح الشبكة دون أن تستقر. لكن تحديث خلية واحدة في كل مرة يُبقي الطاقة في مسار هابط دائماً، وهذا ما يكفل التقارب.
سِعة التخزين: كم ذاكرة يمكن تخزينها؟
الشبكة لا تستطيع تخزين أنماط بلا حدود. كلما أضفتَ أنماطاً جديدة، تتراكم التداخلات في الأوزان — أصوات الأنماط المختلفة تبدأ بالتناقض فيما بينها. هذه هي مشكلة التداخل بين الذكريات.
في تجارب هوبفيلد الأصلية كان الاسترجاع موثوقاً حتى نحو نمط، حيث عدد الخلايا العصبية. لاحقاً حدّد أميت وغوتفرويند وسومبولينسكي (1985) السعة القصوى بدقة: الشبكة تستوعب حتى نمط بشكل موثوق. بعد هذا الحد يزدحم مشهد الطاقة لدرجة تتداخل فيها الذكريات — فتنزلق الشبكة إلى ما يُسمى طور الزجاج المغزلي حيث تستقر على حالات زائفة هي مزيج من أنماط مختلفة بدلاً من ذاكرة واحدة نظيفة.
الجسر الفيزيائي: من الزجاج المغزلي إلى الذاكرة العصبية
ما ميّز هوبفيلد هو أنه نقل أدوات الفيزياء الإحصائية إلى عالم الحوسبة العصبية. الزجاج المغزلي مادة مغناطيسية مضطربة يتآثر فيها لفّ كل ذرة مع ذرات كثيرة أخرى عبر روابط عشوائية. مشاهد الطاقة في هذه الأنظمة وَعِرة ومليئة بـالنهايات الصغرى المحلية — وهذا تحديداً ما نحتاجه لتخزين الذكريات.
التناظر بين المنظومتين مباشر: الخلايا العصبية اللفّات المغناطيسية، الأوزان شدّة الروابط، الحالات تشكيلات اللفّات، الذكريات نهايات الطاقة الصغرى.
هذا الجسر فتح آفاقاً هائلة. عقود كاملة من الأدوات الرياضية التي طوّرها الفيزيائيون لفهم المغناطيسات والانتقالات الطورية والتوازن الحراري أصبحت قابلة للتطبيق مباشرة على فهم الحوسبة العصبية. بكلمات أخرى، ورقة هوبفيلد فتحت للفيزيائيين ميداناً بحثياً جديداً بالكامل، ومنحت علماء الأعصاب ترسانة رياضية لم تكن متاحة لهم من قبل.
الفكرة في شيفرة برمجية
مبسَّط لإظهار الفكرة — ليس التنفيذ الحقيقي.
import numpy as np
class HopfieldNetwork:
def __init__(self, n_neurons):
self.n = n_neurons
self.W = np.zeros((n_neurons, n_neurons))
def train(self, patterns):
"""خزّن الأنماط باستخدام القاعدة الهِبّية."""
for p in patterns:
self.W += np.outer(p, p)
self.W /= self.n
np.fill_diagonal(self.W, 0) # لا اتصال ذاتي
def energy(self, state):
"""احسب طاقة الحالة."""
return -0.5 * state @ self.W @ state
def recall(self, state, max_steps=100):
"""تحديث غير متزامن حتى التقارب."""
s = state.copy()
for _ in range(max_steps):
changed = False
for i in np.random.permutation(self.n):
h = self.W[i] @ s # المدخل الموزون
new = 1 if h >= 0 else -1 # العتبة
if new != s[i]:
s[i] = new
changed = True
if not changed: # تقارب — وصلنا لحالة مستقرة
break
return s
# مثال: خزّن 3 أنماط، شوّه أحدها، واسترجعه
net = HopfieldNetwork(n_neurons=64)
patterns = [np.random.choice([-1, 1], size=64) for _ in range(3)]
net.train(patterns)
noisy = patterns[0].copy()
noisy[:16] *= -1 # اقلب 25% من البتّات
recalled = net.recall(noisy)
accuracy = np.mean(recalled == patterns[0])
print(f"دقة الاسترجاع: {accuracy:.0%}") # عادةً 100%لماذا غيّر كل شيء
1949
قاعدة هِبّ للتعلّم
اقترح دونالد هِبّ أن المشابك العصبية تتقوى حين تنشَط الخلية المُرسلة والمُستقبلة معاً. مبدأ «الخلايا التي تنشَط معاً ترتبط معاً» هو قاعدة التعلّم التي استخدمها هوبفيلد بعد 33 عاماً.
1982
شبكة هوبفيلد
هذه الورقة. ربطت التعلّم الهِبّي وفيزياء الزجاج المغزلي والذاكرة القابلة للعنونة بالمحتوى في إطار واحد مع ضمانات تقارب.
1984
شبكة هوبفيلد ذات الحالات المتصلة
وسّع هوبفيلد النموذج ليشمل خلايا ذات استجابات متدرّجة (متصلة)، مما أتاح تطبيقات أمثَلة كمسألة البائع المتجوّل.
1985
آلة بولتزمان
أضاف هينتون وسيجنوفسكي وحدات خفية وديناميكيات عشوائية لإطار هوبفيلد، فأنشآ نموذجاً توليدياً يستطيع تعلّم تمثيلات داخلية.
1985
تحليل أميت–غوتفرويند–سومبولينسكي
تحليل صارم من الميكانيكا الإحصائية لنموذج هوبفيلد أسّس حدّ سعة التخزين الدقيق عند ~0.138N ورسم مخطط الأطوار.
2016
شبكات هوبفيلد الحديثة
قدّم كروتوف وهوبفيلد دوال طاقة عالية الرتبة تزيد سعة التخزين أُسّيّاً، مما كشف صلة بآليات الانتباه في المحوِّلات.
2024
جائزة نوبل في الفيزياء
حصل جون هوبفيلد على جائزة نوبل في الفيزياء 2024 عن اكتشافاته التأسيسية التي مكّنت التعلّم الآلي بالشبكات العصبية الاصطناعية.
المرجعHopfield, J. J.. Neural Networks and Physical Systems with Emergent Collective Computational Abilities. Proceedings of the National Academy of Sciences, 1982.
مصطلحات هذه الورقة
- دالة الطاقةEnergy Function
- الذاكرة الترابطيةAssociative Memory
- الشبكة العصبية التكراريةRecurrent Neural Network (RNN)
- التعلُّم الهبّيHebbian Learning
- جاذبAttractor
- التقارب الحسابيConvergence
- الذاكرة القابلة للعنونة بالمحتوىContent-Addressable Memory
- الزجاج المغزليSpin Glass
- النهاية الصغرى المحليةLocal Minimum