当前位置：首页 > news >正文

【center-loss 中心损失函数】原理及程序解释（更新中）

news 2025/8/30 9:04:32

文章目录

前言
问题引出
- open-set问题
- 抛出
解决方法
- softmax函数、softmax-loss函数
- 解决
- 代码（center_loss.py）
- - 原理
  - 程序解释
如何梯度更新
- 首先了解一下基本的梯度下降算法
- 然后

前言

学习一下：中心损失函数，用于用于深度人脸识别的特征判别方法
论文：https://ydwen.github.io/papers/WenECCV16.pdf
github代码：https://github.com/KaiyangZhou/pytorch-center-loss

参考：史上最全MNIST系列（三）——Centerloss在MNIST上的Pytorch实现（可视化）

问题引出

open-set问题

open-set 问题是一种模式识别中的问题，它指的是当训练集和测试集的类别不完全相同的情况。例如，如果训练集只包含 0 到 9 的数字，而测试集包含了 A 到 Z 的字母，那么就是一个 open-set 问题。这种情况下，分类器不仅要正确识别已知的类别，还要能够拒绝未知的类别，即将它们标记为 unknown 或 outlier。（后来我想这就是一个聚类问题）

open-set 问题与 closed-set 问题相对应，closed-set 问题是指训练集和测试集的类别完全相同的情况。例如，如果训练集和测试集都只包含 0 到 9 的数字，那么就是一个 closed-set 问题。这种情况下，分类器只需要正确识别已知的类别即可。

抛出

当我们要预测的人脸不在训练集中出现过时，我们需要让它不识别出，而不要因为与训练过的人脸相像而误判。

对于常见的图像分类问题，我们常常用softmax loss来求损失。以MNIST数据集为例，如果你的损失采用softmax loss，那么最后各个类别学出来的特征分布大概如下图：（在倒数第二层全连接层输出了一个2维的特征向量）
在这里插入图片描述
左图为训练集，右图为测试集，发现结果分类还算不错，但是每一类的界限太过模糊，若从中再加一列，则有可能出现误判。

解决方法

softmax函数、softmax-loss函数

已知softmax的函数为：
在这里插入图片描述
在深度学习的分类问题上，意为对应类的概率（符合每个类的概率相加和为1且0<每个类的概率<1）。（输出层后的结果）
其中 zi 是第 i 个输出节点的值，K是输出节点的个数，即分类的类别数。softmax函数的作用是将输出节点的值归一化为范围在 [0, 1] 且和为 1 的概率值，表示属于每个类别的可能性。

softmax的损失函数：（具体详见：一文详解Softmax函数）
在softmax的函数的基础上，我们要求正确对应类的概率最大，
在这里插入图片描述
即，损失函数为：(越小越好)

其中z = w^Tx+b，m是小批量的样本的个数，n是类别个数，w是全连接层的权重，b为偏置项，（一般来说w,b是要学习出来的），xi是第i个深层特征，属于第yi类

解决

在分类的基础上，我们还要求，每个类，往自己的中心的特征靠拢，使类内间距减少，这样才能更加显出差别。
在这里插入图片描述
于是，论文作者提出如下新的损失函数：

其中 xi 是第 i 个样本的特征向量，cyi 是第 yi 个类别的中心向量，m 是样本的个数。
小的注意点：这里用的是样本数，也就是说，是在小批量分类任务完成后再进行的聚类任务
在这里插入图片描述
我们不难发现，作者这里用的是欧式距离的平方，即在多维空间上的两点之间真实距离的平方。
实际上，我们很容易发现，这实际上是一个聚类问题，常见的聚类问题上用的是误差平方和（SSE）损失函数：
在这里插入图片描述

论文作者仅从此推出的欧式距离的平方，仅从形式上十分相像，当然可以作为此聚类问题的解决。
在这里插入图片描述
（在二维上，可以简单看成是直角三角形斜边的平方=两直角边平方和）
为何要加以平方：欧式距离的平方相比欧式距离有一些优点，例如：
1、计算更快，省去了开方的运算。
2、更加敏感，能够放大距离的差异，使得离群点更容易被发现。
3、更加方便，能够与其他平方项相结合，如方差、协方差等。

最后，作者沿用softmax损失函数与中心损失函数相加的方法（在损失函数上很常见），
在这里插入图片描述
这里的1/2很容易想到是作为梯度下降时与后面的平方用来抵消的项，这里λ 可以看作调节两者损失函数的比例

来作为总体的损失函数，作为此问题的解决。

代码（center_loss.py）

原理

首先确定三个事实：
1、在之前的学习中通过实践得知（最小二乘法那块），在拟合的最后结果上，在利用SSE损失函数与MSE损失函数作为损失值参与到程序中时，拟合出的结果并无差别，只有在结果出来后，作为评判模型的好坏时，才有数值上的差别。（两者区别在于是否求平均）。
2、1/2的乘或不乘，只对运算的过程的简便程度有影响，与结果无影响。
3、图像是二维的。

于是我们将作者的的中心损失函数稍加变形。就得到了如下形式（事实上，github上给出的代码就是这么写的）
在这里插入图片描述

程序解释

参考：Center loss-pytorch代码详解
这里只做补充：

import torch
import torch.nn as nnclass CenterLoss(nn.Module):"""Center loss.# 参考Reference:Wen et al. A Discriminative Feature Learning Approach for Deep Face Recognition. ECCV 2016.# 参数Args:num_classes (int): number of classes. # 类别数feat_dim (int): feature dimension.  # 特征维度"""# 初始化        默认参数：类别数为10 特征维度为2 使用GPUdef __init__(self, num_classes=10, feat_dim=2, use_gpu=True):super(CenterLoss, self).__init__() # 继承父类的所有属性self.num_classes = num_classes self.feat_dim = feat_dimself.use_gpu = use_gpuif self.use_gpu: # 如果使用GPU#nn.Parameter()将一个不可训练的tensor转换成可以训练的类型parameter，并将这个parameter绑定到一个module里面,参与到模型的训练和优化中。#nn.Parameter的对象的requires_grad属性的默认值是True，即是可被训练的，这与torth.Tensor对象的默认值相反。self.centers = nn.Parameter(torch.randn(self.num_classes, self.feat_dim).cuda()) # 初始化中心矩阵 .cuda()表示将数据放到GPU上else:self.centers = nn.Parameter(torch.randn(self.num_classes, self.feat_dim))def forward(self, x, labels): # 前向传播"""Args:x: feature matrix with shape (batch_size, feat_dim). # 特征矩阵labels: ground truth labels with shape (batch_size). # 真实标签"""batch_size = x.size(0) #batch_size x的形式为tensor张量# .pow对x中的每一个元素求平方 dim=1表示按行求和 keepdim=True表示保持原来的维度 expand是扩展维度distmat = torch.pow(x, 2).sum(dim=1, keepdim=True).expand(batch_size, self.num_classes) + \torch.pow(self.centers, 2).sum(dim=1, keepdim=True).expand(self.num_classes, batch_size).t() #.t()表示转置 均转成batch_size x num_classes的形式# .addmm_()表示进行1*distmat + (-2)*x@self.centers.t()的运算    @表示矩阵乘法distmat.addmm_(1, -2, x, self.centers.t())classes = torch.arange(self.num_classes).long()# 生成一个从0到num_classes-1的整数序列 long表示数据类型if self.use_gpu: classes = classes.cuda() #这里 .unsqueeze(0) 例[0,4,2] -> [[0,4,2]]  .unsqueeze(1) 例[0,4,2] -> [[0],[4],[2]] labels = labels.unsqueeze(1).expand(batch_size, self.num_classes)# .unsqueeze(1)表示在第1维增加一个维度  .expand()表示扩展维度mask = labels.eq(classes.expand(batch_size, self.num_classes)) #eq是比较两个tensor是否相等，相等返回1，不相等返回0# *表示对应元素相乘dist = distmat * mask.float() # mask.float()将mask转换为float类型loss = dist.clamp(min=1e-12, max=1e+12).sum() / batch_size # clamp表示将dist中的元素限制在1e-12和1e+12之间return loss

如何梯度更新

首先了解一下基本的梯度下降算法

【点云、图像】学习中常见的数学知识及其中的关系与python实战
里的小标题：基于迭代的梯度下降算法，了解到超参数（人为设定的参数）：
学习率，w,b等。此算法为拟合出一条线。

伪代码：
1、未达到设定迭代次数
2、迭代次数epoch+1
3、计算损失值
4、计算梯度
5、更新w、b
6、达到迭代次数，结束

然后

看下这里的更新方法
在这里插入图片描述
其中，卷积层中初始化的参数 θc，超参数：λ、α 和学习率 μ ，迭代次数 t 。（λ、α、 μ均可调）
伪代码：
1、当未收敛时：
2、迭代次数t+1
3、计算损失函数 L=Ls+Lc
4、计算反向传播误差（即梯度）
5、更新w
6、更新cj
7、更新θc
8、结束

其中
在这里插入图片描述
其中，如果满足条件，则 δ（条件） = 1，如果不满足，则 δ（条件） = 0。

首先：第一个公式不用多说，为中心损失函数对特征xi求偏导，即求梯度。
其次：第二个公式：加入了判断，当条件满足时（即yi=j,即就是在同一类时）Δcj=cj-xi 的小批量的所有和/m+1。相当于累加了误差求平均，以此来作为梯度。
当条件不满足时，即Δcj =0，此时这个分母的+1的作用就体现出来了，分母不能为0嘛。

补充：
第5步后面一个等号成立是因为Lc中没有W项，所以Lc对W的求导为0
第7步也是一样，求梯度，只是写成了求导的链式法则。