Forward KL

D(P‖Q) حيث P هو التوزيع الحقيقي وQ هو التقريبي. يُستخدم في التدريب بأقصى أرجحية ودالة خسارة الإنتروبيا التقاطعية.

D(P‖Q) where P is the true distribution and Q is the approximate. Used in maximum likelihood training and cross-entropy loss.