山东大学机器学习期末2022

接力：山东大学机器学习期末2021

本来是不想写的，因为不想回忆起考试时啥也不会的伤痛，没想到最后给分老师海底捞，心情好了一些，还是一块写完

备考建议：多看ppt，多看ppt，多看ppt

山东大学机器学习期末考试2022

考试范围

SMO不考，PCA那一章因子分析不考，最后一章learning theory只考Bias-Variance Complexity和Decomposition 。
跟去年不太一样，比如去年不考GDA，今年我们的第二题就跟GDA的一个推论很像，考试范围最后一节课老师会说。

一、线性回归+牛顿法

考了线性回归的概率解释。

（1）问$p(y|x;\theta )$（这里${\theta }^{T}x$均是确定的哦）
（2）写出最大似然函数
（3）证明通过最大似然求解等价于求解最小二乘

然后，答案全在ppt上。

（4）求正则化线性回归的正规方程（作业题）

二、高斯朴素贝叶斯

（也许是叫这个名儿，可以上网搜搜）
（1）在原来贝叶斯的基础上，增加假设$Y$符合伯努利分布，参数为$p$，$X|Y$符合正态分布，均值为${\mu }_{ij}$，方差为${\sigma }_{ij}$，写出最大似然函数（其实就是贝叶斯的最大似然代入以上具体的概率分布）
（2）证明$P(Y|X)=\frac{1}{1+?}$，其中$?=f(p,\mu ,\sigma )$（证明形式是这样，，具体忘了，，求解最大似然估计参数$p,\mu ,\sigma$，然后用参数表示?）

三、软间隔SVM变形

松弛一项变为$C{\sum }_{i=1}^m{\xi }_i^2$
（1）写出KTT条件
（2）求对偶问题

四、简答题

（跟之前的大差不差）

1. pca算法的步骤
2. 核方法在K-means算法上的应用
3. Bias，Variance和模型复杂度关系
4. K-means算法的步骤