熵权法模型（评价类问题）

一. 概念

利用信息熵计算各个指标的权重，从而为多指标的评价类问题提供依据。

指标的变异程度越小，所反映的信息量也越少，所以其对应的权值也应该越低。

指标的变异程度（或称为变异性、波动性）：描述了一个指标在不同观测值之间的差异程度或分散程度。简单来说，它反映了数据的分布宽度和离散情况。

也即如果一个指标的波动性越小，说明该指标对最终结果的影响理应越小，也即其对应权值更低。

信息熵公式：

•  ：表示随机变量  的熵。熵衡量了随机变量的不确定性或信息量。熵越大，随机变量的不确定性越高。
•  ：随机变量  的一种取值情况。
•  ：随机变量  取值为 ​ 的概率。每个 ​ 都有一个与之对应的概率 。
•  ：  的二进制对数。对数的底数为 2，因此它表示的是以比特为单位的信息量。具体来说， 衡量了事件 ​ 发生时的信息量。

         由于概率 总是介于 0 和 1 之间， 会是一个负数。负号保证了整个熵的值为正数。

        这个公式通过对所有可能取值的信息量加权求和，衡量了随机变量  的不确定性。熵值越大，说明随机变量  的不确定性越高。

二. 特点

熵权法是一种客观的赋权方法，它可以靠数据本身得出权重，避免了主观因素的介入。

三. 实现步骤

1. 标准化

消除量纲的影响。将所有的指标转变为0到1之间的数。