تعظيم المعلومات

مبدأ تعلّمي يهدف إلى تعظيم المعلومات المتبادلة بين مدخلات شبكة عصبية ومخرجاتها. في حالة الدوال اللاخطية المحدودة المدى، يكافئ تقليل التبعيات الإحصائية بين المخرجات.

A learning principle that aims to maximize the mutual information between a neural network's inputs and outputs. With bounded nonlinear transfer functions, it is equivalent to minimizing statistical dependencies among outputs.