语义分割miou指标计算详解

MIoU全称为Mean Intersection over Union，平均交并比。可作为语义分割系统性能的评价指标。

• P：Prediction预测值
• G：Ground Truth真实值
  
  其中IOU: 交并比就是该类的真实标签和预测值的交和并的比值
  
  单类的交并比可以理解为下图：
  

1. 语义分割的评价指标

True Positive (TP): 把正样本成功预测为正。
True Negative (TN)：把负样本成功预测为负。
False Positive (FP)：把负样本错误地预测为正。
False Negative (FN)：把正样本错误的预测为负。

• (1) Accuracy准确率，指的是“预测正确的样本数÷样本数总数”。计算公式为：
  $$Accuracy=\frac{TP+TN}{TP+TN+FP+FN}$$

• (2) Precision精确率或者精度，指的是预测为Positive的样本，占所有预测样本的比率
  $$Precision=\frac{TP}{TP+FP}$$

• (3)Recall召回率，指的是预测为Positive的样本，占所有Positive样本的比率
  $$Precision=\frac{TP}{P}$$

• (4) F1 score: 综合考虑了precision和recall两方面的因素，做到了对于两者的调和，即：既要“求精”也要“求全”，做到不偏科。

$$F1score=\frac{2\ast precision\ast recall}{precision+recall}$$

• (5) MIOU 作为为语义分割最重要标准度量。其计算两个集合的交集和并集之比，在语义分割的问题中，这两个集合为真实值和预测值。在每个类上计算IoU，之后平均。计算公式如下
  $$MIOU=\frac{1}{k+1}\sum _{i=0}^k\frac{TP}{FN+FP+TP}$$
  等价于:
  $$MIOU=\frac{1}{k+1}\sum _{i=0}^k\frac{p_{ii}}{{\sum }_{j=0}^k{p}_{ij}+{\sum }_{j=0}^k{p}_{ji}-p_{ii}}$$

其中：$p_{ii}$ 真实为类别i,预测也为i的像素个数，也就是正确预测的像素个数TP; $p_{ij}$表示真实为类别i,但预测为类别j的像素个数，也就是FN；$p_{ji}$表示真实为类别j，但预测为类别i的像素个数， 也就是FP

注意: 对于多分类，TN为0 ，即没有所谓的负样本

2. 混淆矩阵计算

• 计算MIoU，我们需要借助混淆矩阵来进行计算。
• 混淆矩阵就是统计分类模型的分类结果，即：统计归对类，归错类的样本的个数，然后把结果放在一个表里展示出来，这个表就是混淆矩阵
• 其每一列代表预测值（pred)，每一行代表的是实际的类别(gt)
  
• 对角都对TP，横看真实，竖看预测: 每一行之和，为该行对应类(如Cat)的总数；每一列之和为该列对应类别的预测的总数。

2.1 np.bincount的使用

在计算混淆矩阵时，可以利用np.bincount函数方便我们计算。

numpy.bincount(x, weights=None, minlength=None)

• 该方法返回每个索引值在x中出现的次数
• 给一个向量x，x中最大的元素记为j，返回一个向量1行j+1列的向量y，y[i]代表i在x中出现的次数

#x中最大的数为7，那么它的索引值为0->7
x = np.array([0, 1, 1, 3, 2, 1, 7])
#索引0出现了1次，索引1出现了3次......索引5出现了0次......
np.bincount(x)
#因此，输出结果为：array([1, 3, 1, 1, 0, 0, 0, 1])

• minlength也是一个常用的参数，表示输出的数组长度至少为minlength，如果x中最大的元素加1大于数组长度，那么数组的长度以x中最大元素加1为准（例如，如果数组中最大元素为3，minlength=5，那么数组的长度为5；如果数组中最大元素为7，minlength=5，那么数组的最大长度为7+1=8，这里之所以加1是因为元素0也占了一个索引）。举个例子说明：

# a中最大的数为3，因此数组长度为4，那么它的索引值为0->3
a = np.array([2, 2, 1, 3 ])
# 本来数组的长度为4，但指定了minlength为7，因此现在数组长度为7（多的补0），所以现在它的索引值为0->6
np.bincount(x, minlength=7)
# 输出结果为：array([0, 1, 2, 1, 0, 0, 0])# a中最大的数为4，因此bin的数量为5，那么它的索引值为0->4
x = np.array([4, 2, 3, 1, 2])
# 数组的长度原本为5，但指定了minlength为1，因为5 > 1，所以这个参数不起作用，索引值还是0->4
np.bincount(x, minlength=1)
# 输出结果为：array([0, 1, 2, 1，1])

2.2 混淆矩阵计算

# 设标签宽W，长H
def fast_hist(a, b, n):#--------------------------------------------------------------------------------##   a是转化成一维数组的标签，形状(H×W,)；b是转化成一维数组的预测结果，形状(H×W,)#--------------------------------------------------------------------------------#k = (a >= 0) & (a < n)#--------------------------------------------------------------------------------##   np.bincount计算了从0到n**2-1这n**2个数中每个数出现的次数，返回值形状(n, n)#   返回中，写对角线上的为分类正确的像素点#--------------------------------------------------------------------------------#return np.bincount(n * a[k].astype(int) + b[k], minlength=n ** 2).reshape(n, n)  

• 产生n×n的混淆矩阵统计表
  • 参数a：即：真实的标签gt， 需要reshape为一行输入
  • 参数b：即预测的标签pred，它是经过argmax输出的预测8位标签图, 每个像素表示为类别索引（reshape为一行输入)，
  • 参数n:类别数cls_num

---

• 首先过滤gt中，类别超过n的索引，确保gt的分类都包含在n个类别中

 k = (a >= 0) & (a < n)

• 如果要去掉背景，不将背景计算在混淆矩阵，则可以写为:

 k = (a > 0) & (a < n) #去掉了背景,假设0是背景

• 然后利用np.bincount生成元素个数为n*n的数组，并且reshape为$n\times n$的混淆矩阵，这样确保混淆矩阵行和列都为类别class的个数n
• n*n数组中，每个元素的值，表示为0~n*n的索引值在x中出现的次数，这样就获得了最终混淆矩阵。这里的x表示为n * a[k] + b[k] , 为啥这么定义呢？，

举例如下：将图片的gt标签a和pred输出图片b，都转换为一行; a和b中每个元素代表类别索引

• 前面8, 9, 4, 7, 6都预测正确， 对于预测正确的像素来说，n * a + b就是对角线的值; 假设n=10，有10类。n * a + b就是88, 99, 44, 77, 66
• 紧接着6预测成了5， 因此n * a + b就是65
• 88, 99, 44, 77, 66就是对角线上的值（如下图红框，65就是预测错误，并且能真实反映把6预测成了5（如下图蓝框）
  

3. 语义分割指标计算

图 混淆矩阵

3.1 IOU计算

方式1(推荐)

计算每个类别的IOU计算：
$$IOU=\frac{TP}{FN+FP+TP}$$

def per_class_iu(hist):return np.diag(hist) / np.maximum((hist.sum(1) + hist.sum(0) - np.diag(hist)), 1) 

• 输入hist 表示 2维的混淆矩阵，大小为n*n (n为类别数)
• 混淆矩阵对角线元素值，表示每个类别预测正确的数TP:

np.diag(hist)

• 其中：混淆矩阵所对应行中，每一行为对应类别(如类1)的统计值中，对角线位置为正常预测为该类别的统计值(TP)，其他位置则是错误的将该类别预测为其他的类别FN: 因此每个类别的FP统计值为：

FN =hist.sum(1) -TP = hist.sum(1) - np.diag(hist)

• 同理，预测为该类别所对应的列中，对角线为正确预测，其他位置则是将其他类别错误的预测为该列所对应的类别，也就是FP

FP =hist.sum(0) -TP = hist.sum(0) - np.diag(hist)

因此分母FN_FP+TP=np.maximum（hist.sum(1) + hist.sum(0) - np.diag(hist),1), 这里加上np.maximum确保了分母不为0

方式2

def IOU(pred,target,n_classes = args.num_class ):ious = []# ignore IOU for background classfor cls in range(1,n_classes):pred_inds = pred == clstarget_inds = target == cls# target_sum = target_inds.sum()intersection = (pred_inds[target_inds]).sum()union = pred_inds.sum() + target_inds.sum() - intersectionif union == 0:ious.append(float('nan')) # If there is no ground truth，do not include in evaluationelse:ious.append(float(intersection)/float(max(union,1)))return ious

参考：https://github.com/dilligencer-zrj/code_zoo/blob/master/compute_mIOU

3.2 Precision 计算

每个类别的Precision 计算如下：

$$Precision=\frac{TP}{TP+FP}$$

def per_class_Precision(hist):return np.diag(hist) / np.maximum(hist.sum(0), 1) 

• 其中 np.diag(hist) 为TP值，hist.sum(0)表示为 TP+FP, np.maximum确保确保分母不为0

3.3 总体的Accuracy计算

总体的Accuracy计算如下:

$$Accuracy=\frac{TP+TN}{TP+TN+FP+FN}$$
由于是多类别，没有负样本，因此TN为0。

def per_Accuracy(hist):return np.sum(np.diag(hist)) / np.maximum(np.sum(hist), 1) 

3.4 Recall 计算

recall指的是预测为Positive的样本，占所有Positive样本的比率
$$Precision=\frac{TP}{P}$$

def per_class_PA_Recall(hist):return np.diag(hist) / np.maximum(hist.sum(1), 1) 

• 每一行统计值为该类别样本的真实数量P, 因此P = hist.sum(1)

3.5 MIOU计算

def compute_mIoU(gt_dir, pred_dir, png_name_list, num_classes, name_classes=None):  print('Num classes', num_classes)  #-----------------------------------------##   创建一个全是0的矩阵，是一个混淆矩阵#-----------------------------------------#hist = np.zeros((num_classes, num_classes))#------------------------------------------------##   获得验证集标签路径列表，方便直接读取#   获得验证集图像分割结果路径列表，方便直接读取#------------------------------------------------#gt_imgs     = [join(gt_dir, x + ".png") for x in png_name_list]  pred_imgs   = [join(pred_dir, x + ".png") for x in png_name_list]  #------------------------------------------------##   读取每一个（图片-标签）对#------------------------------------------------#for ind in range(len(gt_imgs)): #------------------------------------------------##   读取一张图像分割结果，转化成numpy数组#------------------------------------------------#pred = np.array(Image.open(pred_imgs[ind]))  #------------------------------------------------##   读取一张对应的标签，转化成numpy数组#------------------------------------------------#label = np.array(Image.open(gt_imgs[ind]))  # 如果图像分割结果与标签的大小不一样，这张图片就不计算if len(label.flatten()) != len(pred.flatten()):  print('Skipping: len(gt) = {:d}, len(pred) = {:d}, {:s}, {:s}'.format(len(label.flatten()), len(pred.flatten()), gt_imgs[ind],pred_imgs[ind]))continue#------------------------------------------------##   对一张图片计算21×21的hist矩阵，并累加#------------------------------------------------#hist += fast_hist(label.flatten(), pred.flatten(), num_classes)  # 每计算10张就输出一下目前已计算的图片中所有类别平均的mIoU值if name_classes is not None and ind > 0 and ind % 10 == 0: print('{:d} / {:d}: mIou-{:0.2f}%; mPA-{:0.2f}%; Accuracy-{:0.2f}%'.format(ind, len(gt_imgs),100 * np.nanmean(per_class_iu(hist)),100 * np.nanmean(per_class_PA_Recall(hist)),100 * per_Accuracy(hist)))#------------------------------------------------##   计算所有验证集图片的逐类别mIoU值#------------------------------------------------#IoUs        = per_class_iu(hist)PA_Recall   = per_class_PA_Recall(hist)Precision   = per_class_Precision(hist)#------------------------------------------------##   逐类别输出一下mIoU值#------------------------------------------------#if name_classes is not None:for ind_class in range(num_classes):print('===>' + name_classes[ind_class] + ':\tIou-' + str(round(IoUs[ind_class] * 100, 2)) \+ '; Recall (equal to the PA)-' + str(round(PA_Recall[ind_class] * 100, 2))+ '; Precision-' + str(round(Precision[ind_class] * 100, 2)))#-----------------------------------------------------------------##   在所有验证集图像上求所有类别平均的mIoU值，计算时忽略NaN值#-----------------------------------------------------------------#print('===> mIoU: ' + str(round(np.nanmean(IoUs) * 100, 2)) + '; mPA: ' + str(round(np.nanmean(PA_Recall) * 100, 2)) + '; Accuracy: ' + str(round(per_Accuracy(hist) * 100, 2)))  return np.array(hist, np.int), IoUs, PA_Recall, Precision

• 首先创建一个维度为(num_classes, num_classes)的空混淆矩阵hist
• 遍历pred_imgs和gt_imgs, 将遍历得到的每一张pred 和label展平(flatten)到一维，输入到fast_hist计算单张图片预测的混淆矩阵,将每次的计算结果加到总的混淆矩阵hist中

for ind in range(len(gt_imgs)): #------------------------------------------------##   读取一张图像分割结果，转化成numpy数组#------------------------------------------------#pred = np.array(Image.open(pred_imgs[ind]))  #------------------------------------------------##   读取一张对应的标签，转化成numpy数组#------------------------------------------------#label = np.array(Image.open(gt_imgs[ind]))  # 如果图像分割结果与标签的大小不一样，这张图片就不计算if len(label.flatten()) != len(pred.flatten()):  print('Skipping: len(gt) = {:d}, len(pred) = {:d}, {:s}, {:s}'.format(len(label.flatten()), len(pred.flatten()), gt_imgs[ind],pred_imgs[ind]))continue#------------------------------------------------##   对一张图片计算21×21的hist矩阵，并累加#------------------------------------------------#hist += fast_hist(label.flatten(), pred.flatten(), num_classes) 

• 每计算10张就输出一下目前已计算的图片中所有类别平均的mIoU值

# 每计算10张就输出一下目前已计算的图片中所有类别平均的mIoU值if name_classes is not None and ind > 0 and ind % 10 == 0: print('{:d} / {:d}: mIou-{:0.2f}%; mPA-{:0.2f}%; Accuracy-{:0.2f}%'.format(ind, len(gt_imgs),100 * np.nanmean(per_class_iu(hist)),100 * np.nanmean(per_class_PA_Recall(hist)),100 * per_Accuracy(hist)))

• 遍历完成后，得到所有类别的Iou值IoUs以及PA_Recall 和Precision ,并逐类别输出一下mIoU值

   if name_classes is not None:for ind_class in range(num_classes):print('===>' + name_classes[ind_class] + ':\tIou-' + str(round(IoUs[ind_class] * 100, 2)) \+ '; Recall (equal to the PA)-' + str(round(PA_Recall[ind_class] * 100, 2))+ '; Precision-' + str(round(Precision[ind_class] * 100, 2)))

• 最后在所有验证集图像上求所有类别平均的mIoU值

 print('===> mIoU: ' + str(round(np.nanmean(IoUs) * 100, 2)) + '; mPA: ' + str(round(np.nanmean(PA_Recall) * 100, 2)) + '; Accuracy: ' + str(round(per_Accuracy(hist) * 100, 2)))  

参考

• https://github.com/bubbliiiing/deeplabv3-plus-pytorch/blob/main/utils/utils_metrics.py
• https://github.com/dilligencer-zrj/code_zoo/blob/master/compute_mIOU
• https://www.jianshu.com/p/42939bf83b8a