最简单的线性回归模型-标量

  首先考虑$y$为标量，$w$为标量的情况，那么我们的线性函数为$y=wx+b$。每批输入的量batch size 为$1$，每批输入的$x$为一个标量，设为$x^{\ast }$，标签$y$同样为一个标量，设为$y^{\ast }$。因此每批训练的损失函数$L$可以表示为：
$$\begin{array}{rl}L& ={\left(y-y^{\ast }\right)}^2\\ & ={\left(w{x}^{\ast }+b-y^{\ast }\right)}^2\end{array}$$
  每次训练完需要更新参数$w$和$b$，我们采用梯度下降方法对这两个参数进行更新的话，需要求出两个参数的梯度，也就是需要求出$\frac{\partial L}{\partial w}$和$\frac{\partial L}{\partial b}$，结果如下：
$$\frac{\partial L}{\partial w}=2(w{x}^{\ast }+b-y^{\ast })x^{\ast }$$
$$\frac{\partial L}{\partial b}=2(w{x}^{\ast }+b-y^{\ast })$$
训练之前需要对$w$和$b$初始化赋值，设定步长$step$。这样每轮$w$和$b$的更新方法为：
$$w_{new}=w-step\ast 2(w{x}^{\ast }+b-y^{\ast })x^{\ast }$$
$$b_{new}=b-step\ast 2(w{x}^{\ast }+b-y^{\ast })$$
首先考虑$y$为标量，$w$为标量的情况，那么我们的线性函数为$y=wx+b$。每批输入的量batch size 为$N$，每批输入的$x$为一个向量，设为${\mathbf{x}}^{\ast }$，标签$y$同样为一个向量，设为${\mathbf{y}}^{\ast }$。因此损失函数可以表示为：
$$\begin{array}{rl}L& =\sum _{n=1}^N{\left(y-y^{\ast }\right)}^2\\ & =\sum _{n=1}^N{\left(y-y^{\ast }\right)}^2\end{array}$$
下面我们对这种最简单的线性回归模型使用python实现一下：

x = np.array([0.1,1.2,2.1,3.8,4.1,5.4,6.2,7.1,8.2,9.3,10.4,11.2,12.3,13.8,14.9,15.5,16.2,17.1,18.5,19.2])
y = np.array([5.7,8.8,10.8,11.4,13.1,16.6,17.3,19.4,21.8,23.1,25.1,29.2,29.9,31.8,32.3,36.5,39.1,38.4,44.2,43.4])
print(x,y)
plt.scatter(x,y)
plt.show()

回归过程如下：

# 设定步长
step=0.001
# 存储每轮损失的loss数组
loss_list=[]
# 定义epoch
epoch=30
# 定义参数w和b并初始化
w=0.0
b=0.0
#梯度下降回归
for i in range(epoch) :#计算当前输入x和标签y的索引，由于x和y数组长度一致，因此通过i整除x的长度即可获得当前索引index = i % len(x)# 当前轮次的x值为：cx=x[index]# 当前轮次的y值为：cy=y[index]# 计算当前lossloss_list.append((w*cx+b-cy)**2)# 计算参数w和b的梯度grad_w = 2*(w*cx+b-cy)*cxgrad_b = 2*(w*cx+b-cy)# 更新w和b的值w -= step*grad_wb -= step*grad_b

输出loss如下：

plt.plot(loss_list)
plt.show()

输出拟合函数的结果：

print("y=%.2fx+%.2f" %(w,b))

y=2.46x+0.39

拟合的函数图像与训练数据中的点关系图如下：

可以看到迭代30次后的函数图像，现在迭代次数增加到3000，拟合结果如下：

loss如下：

在batchsize为1的时候，loss波动很大。因此有必要增大batchsize，下一篇我们在此基础上增加batchsize看看线性回归的结果。