人工智能 前馈神经网络练习题

为了构建一个有两个输入（$X_1$、$X_2$）和一个输出的单层感知器，并进行分类，我们需要计算权值$w_1$和$w_2$的更新过程。以下是详细的步骤和计算过程：

1. 初始化参数
   初始权值：$w_1=0.1$, $w_2=0.1$
   阈值（激活函数的阈值）：$\theta =0.6$
   学习率：$\eta =0.6$
2. 激活函数
   使用硬限幅函数（阶跃函数）：

• 如果$y\ge \theta$，输出$1$
• 如果$y<\theta$，输出$0$

1. 数据集

$X_1$	$X_2$	目标输出$d$
0	0	0
0	1	0
1	0	0
1	1	1

1. 迭代优化权值
   我们将进行多次迭代，直到输出误差达到零。

迭代过程
对每一对输入$(X_1,X_2)$和目标输出$d$，进行计算和更新。

• 迭代1：
  输入：$(0,0)$, 目标输出$d=0$
  计算：$y=w_1\times 0+w_2\times 0=0$
  输出：$0<0.6$ → 输出$0$（正确）
  无需更新权值。
• 迭代2：
  输入：$(0,1)$, 目标输出$d=0$
  计算：$y=w_1\times 0+w_2\times 1=0.1$
  输出：$0.1<0.6$ → 输出$0$（正确）
  无需更新权值。
• 迭代3：
  输入：$(1,0)$, 目标输出$d=0$
  计算：$y=w_1\times 1+w_2\times 0=0.1$
  输出：$0.1<0.6$ → 输出$0$（正确）
  无需更新权值。
• 迭代4：
  输入：$(1,1)$, 目标输出$d=1$
  计算：$y=w_1\times 1+w_2\times 1=0.1+0.1=0.2$
  输出：$0.2<0.6$ → 输出$0$（错误）
  更新权值：
  误差$e=d-y=1-0=1$
  更新：
  $w_1=w_1+\eta \cdot e\cdot X_1=0.1+0.6\cdot 1\cdot 1=0.7$
  $w_2=w_2+\eta \cdot e\cdot X_2=0.1+0.6\cdot 1\cdot 1=0.7$
• 迭代5：
  输入：$(0,0)$, 目标输出$d=0$
  计算：$y=0.7\times 0+0.7\times 0=0$
  输出：$0<0.6$ → 输出$0$（正确）
  无需更新权值。
• 迭代6：
  输入：$(0,1)$, 目标输出$d=0$
  计算：$y=0.7\times 0+0.7\times 1=0.7$
  输出：$0.7\ge 0.6$ → 输出$1$（错误）
  更新权值：
  误差$e=d-y=0-1=-1$
  更新：
  $w_1=0.7+0.6\cdot (-1)\cdot 0=0.7$
  $w_2=0.7+0.6\cdot (-1)\cdot 1=0.1$
• 迭代7：
  输入：$(1,0)$, 目标输出$d=0$
  计算：$y=0.7\times 1+0.1\times 0=0.7$
  输出：$0.7\ge 0.6$ → 输出$1$（错误）
  更新权值：
  误差$e=d-y=0-1=-1$
  更新：
  $w_1=0.7+0.6\cdot (-1)\cdot 1=0.1$
  $w_2=0.1+0.6\cdot (-1)\cdot 0=0.1$
• 迭代8：
  输入：$(1,1)$, 目标输出$d=1$
  计算：$y=0.1\times 1+0.1\times 1=0.2$
  输出：$0.2<0.6$ → 输出$0$（错误）
  更新权值：
  误差$e=d-y=1-0=1$
  更新：
  $w_1=0.1+0.6\cdot 1\cdot 1=0.7$
  $w_2=0.1+0.6\cdot 1\cdot 1=0.7$
• 迭代9：
  重复之前的步骤，经过几轮迭代，会发现权值在震荡。
  继续更新，最终会收敛。

收敛：
经过多次迭代，直到所有的输出都与目标一致，即可停止。