香农的熵计算

Question

我有一个概率分布，它定义了发生的概率 n 可能的状态。

我想计算给定概率分布的香农熵值（以位为单位）。

我可以用吗 wentropy(x,'shannon') 获取该值，如果可以，我在哪里可以定义系统可能具有的状态数？

Answer 1

由于您已经有了概率分布，因此将其称为 p, ，您可以执行以下操作 香农熵的公式 而不是使用 wentropy:

H = sum(-(p(p>0).*(log2(p(p>0)))));

这给出了熵 H 以位为单位.

p 总和必须为 1。