Transformer究竟是什么？预训练又指什么？BERT

目录

Transformer究竟是什么？

预训练又指什么？

BERT的影响力

---

 

Transformer究竟是什么？

Transformer是一种基于自注意力机制（Self-Attention Mechanism）的神经网络架构，它最初是为解决机器翻译等序列到序列（Seq2Seq）任务而设计的。与传统的循环神经网络（RNN）或卷积神经网络（CNN）不同，Transformer完全依赖于注意力机制来处理输入序列中的依赖关系，从而避免了RNN中的梯度消失问题和CNN中的局部视野限制。

Transformer架构由编码器（Encoder）和解码器（Decoder）两部分组成。编码器负责将输入序列转换成一系列向量表示，而解码器则根据这些向量表示逐步生成输出序列。在编码器