深度学习之六（自编码器--Autoencoder）

概念

自编码器（Autoencoder）是一种神经网络架构，用于无监督学习和数据的降维表示。它由两部分组成：编码器（Encoder）和解码器（Decoder）。

结构：

1. 编码器（Encoder）： 接收输入数据并将其压缩为潜在表示（latent representation），通常比输入数据的维度要低。编码器的任务是学习提取输入数据的有效特征。
2. 解码器（Decoder）： 接收编码器生成的潜在表示，并尝试将其解码为原始的输入数据。解码器的目标是重构尽可能接近输入数据的输出。

工作原理：

1. 训练阶段： 自编码器通过最小化输入数据与重构数据之间的差异来学习。它尝试最小化重建误差（reconstruction error）。
2. 特征提取： 编码器学习了数据的紧凑表示形式，可以用作特征提取器，有助于数据的降维、去噪或其他任务。

类型：

1. 标准自编码器（Vanilla Autoencoder）： 最简单的形式，编码器和解码器通常是对称的全连接层。