LASSO算法

LASSO (Least Absolute Shrinkage and Selection Operator) 是一种回归分析的方法，它能够同时进行变量选择和正则化，以增强预测准确性和模型的解释性。LASSO通过在损失函数中加入一个L1惩罚项来实现这一点。该惩罚项对系数的绝对值进行约束。

基本概念

在一个线性回归模型中，我们通常寻找权重向量 $x$，使得 $\Vert Ax-b{\Vert }_2^2$ (二范数平方，即平方误差) 尽可能小，其中 $A$ 是特征矩阵，$b$ 是观察值向量。在LASSO回归中，我们求解的优化问题变为：

$$\underset{x}{\min }\left\{\Vert Ax-b{\Vert }_2^2+\lambda \Vert x{\Vert }_1\right\}$$

这里 $\Vert x{\Vert }_1$ 表示 $x$ 的L1范数（俗称为曼哈顿距离，即系数的绝对值之和），$\lambda$ 是正则化系数，它决定了添加到模型中的惩罚的严重程度。

LASSO算法的关键特点是，在参数 $\lambda$ 足够大时，一些系数可以被缩减为零，即模型可以排除一些特征对输出的影响。这可以解释为模型自动进行特征选择。

示例

以下是一个简单的例子和用MATLAB实现的过程：

首先创建一些合成数据，如用户之前的输入所示。我们使用 randn 函数生成正态分布的随机数，创建了一个100x10的矩阵 $A$ 作为特征矩阵，以及一个有两个非零项的系数向量 $x$。然后我们计算观察值向量 $b$，并添加一些噪声。

使用MATLAB内置的 lasso 函数，我们可以拟合一个LASSO模型。lasso 函数还允许我们进行交叉验证（通过参数 'CV', 10）来选择合适的 $\lambda$。lassoPlot 函数用于可视化交叉验证结果。最后，我们选取最佳的系数向量，并且对选取的系数再进行一次普通最小二乘回归，即所谓的"去偏置"步骤。

MATLAB代码

这是用MATLAB实现的步骤展示：

% 创建特征矩阵和观察值
A = randn(100,10);
x = [0; 0; 1; 0; 0; 0; -1; 0; 0; 0];
b = A*x + 2*randn(100,1);% L2-正则化（最小二乘）
xL2 = pinv(A)*b;% LASSO回归
[XL1, FitInfo] = lasso(A, b, 'CV', 10);% LASSO交叉验证结果可视化
lassoPlot(XL1, FitInfo, 'PlotType', 'CV');% 选择1标准误差规则下的系数
xL1 = XL1(:, FitInfo.Index1SE);% 去偏置
xL1DeBiased = pinv(A(:, abs(xL1) > 0)) * b;

在这个例子中，最后的步骤是进行去偏置（De-Biasing）。由于LASSO倾向于收缩系数，为了获得无偏的预测，通常会在LASSO选择的特征上运行一个没有正则化的线性回归。通过选择那些在LASSO模型下非零的系数作为特征，我们可以再次使用普通的最小二乘估计（也就是 pinv(A(:, abs(xL1) > 0)) * b）来获得去偏的系数估计 xL1DeBiased。

运行结果

相关博文

理解并实现OpenCV中的图像平滑技术

OpenCV中的边缘检测技术及实现

OpenCV识别人脸案例实战

入门OpenCV：图像阈值处理

我的图书

下面两本书欢迎大家参考学习。

OpenCV轻松入门

李立宗，OpenCV轻松入门，电子工业出版社，2023
本书基于面向 Python 的 OpenCV(OpenCV for Python)，介绍了图像处理的方方面面。本书以 OpenCV 官方文档的知识脉络为主线，并对细节进行补充和说明。书中不仅介绍了 OpenCV 函数的使用方法，还介绍了函数实现的算法原理。

在介绍 OpenCV 函数的使用方法时，提供了大量的程序示例，并以循序渐进的方式展开。首先，直观地展示函数在易于观察的小数组上的使用方法、处理过程、运行结果，方便读者更深入地理解函数的原理、使用方法、运行机制、处理结果。在此基础上，进一步介绍如何更好地使用函数处理图像。在介绍具体的算法原理时，本书尽量使用通俗易懂的语言和贴近生活的实例来说明问题，避免使用过多复杂抽象的公式。

本书适合计算机视觉领域的初学者阅读，包括在校学生、教师、专业技术人员、图像处理爱好者。
本书第1版出版后，深受广大读者朋友的喜爱，被很多高校选为教材，目前已经累计重印9次。为了更好地方便大家学习，对本书进行了修订。

计算机视觉40例

李立宗，计算机视觉40例，电子工业出版社，2022
近年来，我深耕计算机视觉领域的课程研发工作，在该领域尤其是OpenCV-Python方面积累了一点儿经验。因此，我经常会收到该领域相关知识点的咨询，内容涵盖图像处理的基础知识、OpenCV工具的使用、深度学习的具体应用等多个方面。为了更好地把所积累的知识以图文的形式分享给大家，我将该领域内的知识点进行了系统的整理，编写了本书。希望本书的内容能够对大家在计算机视觉方向的学习有所帮助。
本书以OpenCV-Python（the Python API for OpenCV）为工具，以案例为载体，系统介绍了计算机视觉从入门到深度学习的相关知识点。
本书从计算机视觉基础、经典案例、机器学习、深度学习、人脸识别应用等五个方面对计算机视觉的相关知识点做了全面、系统、深入的介绍。书中共介绍了40余个经典的计算机视觉案例，其中既有字符识别、信息加密、指纹识别、车牌识别、次品检测等计算机视觉的经典案例，也包含图像分类、目标检测、语义分割、实例分割、风格迁移、姿势识别等基于深度学习的计算机视觉案例，还包括表情识别、驾驶员疲劳监测、易容术、识别年龄和性别等针对人脸的应用案例。
在介绍具体的算法原理时，本书尽量使用通俗易懂的语言和贴近生活的示例来说明问题，避免使用复杂抽象的公式来介绍。
本书适合计算机视觉领域的初学者阅读，适于在校学生、教师、专业技术人员、图像处理爱好者使用。