分类模型-逻辑回归和Fisher线性判别分析★★★★

该博客为个人学习清风建模的学习笔记，部分课程可以在B站：【强烈推荐】清风：数学建模算法、编程和写作培训的视频课程以及Matlab等软件教学_哔哩哔哩_bilibili

目录

1理论

1.1逻辑回归模型

1.2线性概率模型

1.3线性判别分析

1.4两点分布

​1.5连接函数的取法

1.6求解

​1.7用于分类

2SPSS应用

2.1二元分类

2.1.1逻辑回归

​2.1.2线性判别分析

2.2多元分类

2.2.1逻辑回归

2.2.2线性判别分析

3总结

---

 

名称	重要性	难度
分类模型	★★★★	★★★

1理论

1.1逻辑回归模型

 1.2线性概率模型

1.3线性判别分析

 

1.4两点分布

 1.5连接函数的取法

 标准正态分布和sigmoid函数图像对比——值域都在0、1之间

因此具体应用的过程中常常使用的是sigmoid函数。 

多元分类连接函数的选取：

 

1.6求解

1.7用于分类

2SPSS应用

2.1二元分类

2.1.1逻辑回归

预测成功率：

 逻辑回归系数表：

逐步回归设置：

 处理分类自变量：

提高预测成功率：

 避免过拟合情况：

确定合适的模型：

2.1.2线性判别分析

结果分析：

2.2多元分类

注意：这里 SPSS 不能自动帮我们生成虚拟变量，我们可以在 EXCEL 表中使用“替换”功能来快速生成虚拟变量。

2.2.1逻辑回归

 

2.2.2线性判别分析

3总结

逻辑回归和线性判别分析都可以训练数据集预测未知数，可以通过加入平方项等来提高预测正确率，但是注意过拟合现象，同时在使用SPSS之前要先数据预处理，多元分类就直接在excel中查找替换就可以了。