حساب الإنتروبيا لشانون

Question

لدي توزيع احتمالي يحدد احتمال حدوث n الدول الممكنة.

أرغب في حساب قيمة إنتروبيا شانون، بالبت، للتوزيع الاحتمالي المعطى.

هل بإمكاني استخدم wentropy(x,'shannon') للحصول على القيمة، وإذا كان الأمر كذلك، أين يمكنني تحديد عدد الحالات المحتملة للنظام؟

Answer 1

بما أن لديك بالفعل التوزيع الاحتمالي، فاسميه p, ، يمكنك القيام بما يلي صيغة لانتروبيا شانون بدلا من استخدام wentropy:

H = sum(-(p(p>0).*(log2(p(p>0)))));

وهذا يعطي الانتروبيا H في أجزاء.

p يجب أن مجموع إلى 1.