假设检验的基本思想

假设检验

首先了解参数估计，比如有服从正态分布的数据集$X\sim N(\mu ,{\sigma }^2)$，我们希望根据样本$x_1,...x_n$估计出参数$\mu ,\sigma$，这些参数可以是一个具体值，也可以是一个范围（即一个区间）。

对于假设检验，分为两种情况：

• 参数假设检验：这种情况下，我们知道总体分布，比如我们已知数据集服从正态分布$X\sim N(\mu ,{\sigma }^2)$，但参数$\mu ,\sigma$我们是不知道的，我们假设$\mu ={\mu }_0,\sigma ={\sigma }_0$，现在，我们依然根据样本$x_1,...x_n$去判断$\mu$是否等于${\mu }_0$，即根据样本判断假设是否成立。
• 非参数假设检验：这是对于分布未知的情况。

总之，假设检验的目的是根据样本判断假设是否成立。

通常存在两种假设，以前面参数假设检验为例：

• 原假设$H_0$：假设$\mu ={\mu }_0$；原假设的概率通常较大；
• 备择假设$H_1$：假设$\mu \ne {\mu }_0$；

如果根据样本检验后发现，原假设不成立，备择假设成立，则称$[x_1,...,x_n]\in K_0$，样本属于拒绝域$K_0$。换言之，如果原假设不成立，我们应拒绝原假设。

在拒绝域中的样本才能判断出假设不成立，如果样本不在拒绝域中，我们才能接受原假设。

我们根据样本判断假设，但存在局限性，因为样本数量有限，样本数量多只能降低检验出错的概率，不能代表检验结果完全正确。因此假设检验应考虑到两种错误：

• 原假设成立，但检验后却拒绝了原假设，即弃真错误；
  我们把概率P{拒绝H0∣H0成立}=αP\left\{拒绝H_{0}|H_{0}成立\right\}=\alphaP{拒绝H0​∣H0​成立}=α，$\alpha$称为显著性水平，通常，$\alpha$的值是很小的。如果样本落在拒绝域内的概率P{[x1,...,xn]∈K0}≤αP\left\{[x_{1},...,x_{n}]\in K_{0}\right\}\leq\alphaP{[x1​,...,xn​]∈K0​}≤α，我们就接受原假设，因为此时检验出错的概率已经很低。
  反过来，如果P{[x1,...,xn]∈K0}>αP\left\{[x_{1},...,x_{n}]\in K_{0}\right\}>\alphaP{[x1​,...,xn​]∈K0​}>α，我们应当拒绝原假设。
• 原假设不成立，但检验后接受了原假设，即取伪错误；

p-value

p值是假设检验中，判断是否要拒绝原假设的指标，p值是一个概率。

p值：原假设正确时，样本观测值取得某一结果（以及比这个结果更极端结果）的概率。

举例：判断硬币是否公平（出现正面的概率为50%）

原假设：抛硬币结果为正面的概率为50%；
备择假设：抛硬币结果为正面的概率不为50%；

样本，抛硬币500次，正面出现次数10次，反面出现490次。

对于抛硬币500次，整体应服从二项分布：

因此，在原假设正确时，预期应该是250次正面，然而实际情况是10次正面，比该结果更极端的情况是正面次数为0次-9次。

另外，如果正面出现超过490次也属于极端情况，因此，图中红色区域表示当前结果以及极端结果。

p值就是图中红色区域对应的概率（面积）。如果p值很小，则意味着，在原假设正确的情况下，小概率事件发生了，比如p值只有1%，即我们只有1%的概率得到目前的观测结果，既然小概率事件发生，我们就有更大概率怀疑这个原假设，因此我们可以拒绝原假设。

通常，只要p值小于显著性水平$\alpha$，我们就拒绝原假设。