scipy.stats.Mixture.

entropy#

Mixture.entropy(*, method=None)[source]#

微分熵

就概率密度函数 \(f(x)\) 和支持 \(\chi\) 而言，连续随机变量 \(X\) 的微分熵（或简称“熵”）为

\[h(X) = - \int_{\chi} f(x) \log f(x) dx\]

离散随机变量的定义类似，用 PMF 替换 PDF，用对支持的求和替换积分。

参数:
method{None, ‘formula’, ‘logexp’, ‘quadrature’}

用于评估熵的策略。默认情况下 (None)，基础设施在以下选项之间进行选择，并按优先级顺序列出。

  • 'formula': 使用熵本身的公式

  • 'logexp': 评估对数熵并取幂

  • 'quadrature': 数值积分（或者，在离散情况下，求和）熵被积函数（被加数）

并非所有分布都提供所有 method 选项。如果选择的 method 不可用，则会引发 NotImplementedError。

返回值:
out数组

随机变量的熵。

参见

logentropy
pdf

注释

此函数使用自然对数计算熵；即以 \(e\) 为底的对数。因此，该值以 (无量纲) “单位” 纳特表示。要将熵转换为不同的单位（即与不同的底数相对应），请将结果除以所需底数的自然对数。

参考文献

示例

使用所需的参数实例化一个分布

>>> from scipy import stats
>>> X = stats.Uniform(a=-1., b=1.)

评估熵

>>> X.entropy()
0.6931471805599454
在本页