LLM笔记（三）位置编码（1）

位置编码理论与应用

1. 位置编码如何解决置换不变性及其数学表现

在Transformer模型中，自注意力机制（Self-Attention）具有置换不变性（permutation invariance），这意味着对输入序列的词元（token）进行任意重排，输出的内容本质上保持不变（或仅是行的重排），导致模型无法感知词元的顺序。为了解决这一问题，**位置编码（Positional Encoding）**通过将位置信息融入输入序列，打破这种不变性，使模型能够区分词元的相对或绝对位置。

---

1.1 置换不变性的数学表现

置换不变性是自注意力机制无法捕捉位置信息的核心原因。让我们从数学角度分析：

• 自注意力机制的计算：

  • 输入序列为 $X=[x_1,x_2,\dots ,x_n]$，其中 $x_i\in {\mathbb{R}}^d$ 是第 $i$ 个词元的嵌入向量。
  • 通过线性变换生成查询（Query）、键（Key）和值（Value）： $$Q=X{W}_Q,K=X{W}_K,V=X{W}_V$$ 其中 $W_Q,W_K,W_V$ 是可学习的权重矩阵。
  • 注意力权重为： $$A=\text{softmax}\left(\frac{Q{K}^T}{\sqrt{d_k}}\right)$$ 输出为： $$\text{Attention}(Q,K,V)=AV$$

• 置换操作的影响：

  • 假设对输入 $X$ 应用置换矩阵 $P$（一个重排行的矩阵），置换后的输入为 $X^{\prime }=PX$。
  • 置换后的查询、键和值变为： $$Q^{\prime }=PQ,K^{\prime }=PK,V^{\prime }=PV$$
  • 注意力权重变为： $$A^{\prime }=\text{softmax}\left(\frac{Q^{\prime }(K^{\prime }{)}^T}{\sqrt{d_k}}\right)=\text{softmax}\left(\frac{PQ{K}^T{P}^T}{\sqrt{d_k}}\right)=PA{P}^T$$
  • 输出为： $$\text{Attention}(Q^{\prime },K^{\prime },V^{\prime })=A^{\prime }{V}^{\prime }=PA{P}^{T}PV=PAV$$
  • 结果表明，置换后的输出 $PAV$ 是原始输出 $AV$ 的行重排，内容本质不变（即集合意义上等价）。这意味着自注意力机制无法区分 $X$ 和 $X^{\prime }$ 的顺序，仅依赖词元的内容。

---

1.2 位置编码如何解决置换不变性

位置编码通过将位置信息融入输入序列，打破置换不变性，使模型能够感知词元的位置。常见的实现方式有两种：绝对位置编码和相对位置编码。

1.2.1 绝对位置编码

• 原理：
  • 为每个位置 $m$ 分配一个独特的位置编码向量 $p_m$，将其加到对应的词元嵌入 $x_m$ 上： $$x_m^{\prime }=x_m+p_m$$ 输入序列变为： $$X_{\text{new}}=[x_1+p_1,x_2+p_2,\dots ,x_n+p_n]$$
• 数学表现：
  • 若对 $X_{\text{new}}$ 应用置换矩阵 $P$，置换后的输入为： $$X_{\text{new}}^{\prime }=P{X}_{\text{new}}=P(X+P_{\text{pos}})$$ 其中 $P_{\text{pos}}=[p_1,p_2,\dots ,p_n]$。
  • 因为 $p_m$ 与位置绑定，置换后位置编码也会重排（如 $P{P}_{\text{pos}}$），导致 $X_{\text{new}}^{\prime }\ne X_{\text{new}}$。这使得注意力计算的结果不再仅仅是行的重排，模型能够感知位置差异。
• 例子：
  • 三角函数位置编码（原Transformer）： $$PE(\text{pos},2i)=\sin \left(\frac{\text{pos}}{10000^{2i/d}}\right),PE(\text{pos},2i+1)=\cos \left(\frac{\text{pos}}{10000^{2i/d}}\right)$$ 不同位置的编码向量具有独特的频率模式。
• 效果：
  • 通过为每个词元添加位置标识，打破了置换不变性，模型可以区分不同位置的词元。

1.2.2 相对位置编码

• 原理：
  • 直接在注意力机制中引入词元间的相对位置信息，通常通过修改注意力权重的计算方式。例如，在注意力分数中加入与相对位置 $i-j$ 相关的偏置项。
• 数学表现：
  • 修改注意力分数计算： $$a_{ij}=q_i^T{k}_j+q_i^T{R}_{i-j}$$ 其中 $R_{i-j}$ 是相对位置 $i-j$ 的编码向量。
  • 置换输入后，相对位置 $i-j$ 会随之改变，导致注意力权重 $A$ 的计算结果不同，输出不再是简单重排。
• 例子：
  • Transformer-XL： $$a_{ij}=q_i^T{k}_j+q_i^T{R}_{i-j}+u^T{k}_j+v^T{R}_{i-j}$$ $R_{i-j}$ 使用正弦余弦函数生成，依赖相对距离。
• 效果：
  • 相对位置编码直接捕捉词元间的相对距离或顺序，使模型对位置变化敏感。

---

1.3 数学分析：Taylor展开的视角

在Transformer模型中，位置编码（Positional Encoding）是解决自注意力机制无法捕捉词元顺序的关键机制。通过将模型输出函数 $f(X)$ 在加入位置编码后的输入 $X+P_{\text{pos}}$ 处进行Taylor展开，我们可以从数学视角深入理解位置编码如何引入绝对位置信息和相对位置信息。

$$\tilde{f}(X+P_{\text{pos}})\approx f(X)+p_m^T\frac{\partial f}{\partial x_m}+p_n^T\frac{\partial f}{\partial x_n}+p_m^T\frac{{\partial }^{2}f}{\partial x_m^2}{p}_m+p_n^T\frac{{\partial }^{2}f}{\partial x_n^2}{p}_n+p_m^T\frac{{\partial }^{2}f}{\partial x_m\partial x_n}{p}_n$$

其中：

• $X$ 是输入序列的词元嵌入矩阵，$x_m$ 和 $x_n$ 是位置 $m$ 和 $n$ 的词元嵌入向量。

• $P_{\text{pos}}$ 是位置编码矩阵，$p_m$ 和 $p_n$ 是位置 $m$ 和 $n$ 的位置编码向量。

• $f(X)$ 是模型输出函数，$\tilde{f}(X+P_{\text{pos}})$ 是加入位置编码后的输出。

展开式中的项可以分为两类：绝对位置信息（前四项）和相对位置信息（最后一项）。下面，我们将更深入地分析这些项的含义，并通过具体例子阐释其作用。

1.3.1 绝对位置信息

绝对位置信息由以下四项表示：

• $p_m^T\frac{\partial f}{\partial x_m}$ 和 $p_n^T\frac{\partial f}{\partial x_n}$（一阶项）

• $p_m^T\frac{{\partial }^{2}f}{\partial x_m^2}{p}_m$ 和 $p_n^T\frac{{\partial }^{2}f}{\partial x_n^2}{p}_n$（二阶单位置项）

数学含义

• 一阶项：

  • $\frac{\partial f}{\partial x_m}$ 是模型输出 $f$ 对位置 $m$ 的词元嵌入 $x_m$ 的梯度，表示输出对该词元的线性敏感度。

  • $p_m^T\frac{\partial f}{\partial x_m}$ 是位置编码向量 $p_m$ 与梯度的点积，反映了位置 $m$ 的编码对输出的直接调整。

  • 这类似于为每个位置的词元添加一个独立的"位置偏移"，使模型感知到"这个词元在位置 $m$"。

• 二阶单位置项：

  • $\frac{{\partial }^{2}f}{\partial x_m^2}$ 是模型输出的二阶导数，表示输出对 $x_m$ 的非线性影响（曲率）。

  • $p_m^T\frac{{\partial }^{2}f}{\partial x_m^2}{p}_m$ 是位置编码 $p_m$ 通过二阶导数对输出的调整，增强了对单一位置的建模。

  • 这可以看作是对位置 $m$ 的"深度调整"，进一步强调其绝对位置特性。

特点

• 这些项仅依赖单一位置的编码（$p_m$ 或 $p_n$），不涉及其他位置的交互，因此反映了绝对位置信息。

• 它们为每个词元提供了一个独立的位置标识，使模型能够区分不同位置的词元。

例子

• 场景：考虑一个简单的语言模型，输入序列为"猫追狗"（位置 $m=1,n=2,k=3$），词嵌入分别为 $x_1,x_2,x_3$，位置编码为 $p_1,p_2,p_3$（如三角函数编码）。

• 绝对位置作用：

  • $p_1^T\frac{\partial f}{\partial x_1}$ 调整"猫"（位置1）的输出贡献，可能使模型更关注句首词。

  • $p_2^T\frac{{\partial }^{2}f}{\partial x_2^2}{p}_2$ 增强"追"（位置2）的非线性影响，强调动词的独立作用。

• 实际效果：模型通过这些项区分"猫"在位置1和"狗"在位置3，即使内容相同，也能感知顺序差异。

与绝对位置编码的关系

• 绝对位置编码（如三角函数编码或可训练编码）主要通过这些单位置项起作用。它们为每个位置赋予独特标识（如 $p_m$），使模型在输入层感知绝对位置。

1.3.2 相对位置信息

相对位置信息由最后一项表示：

• $p_m^T\frac{{\partial }^{2}f}{\partial x_m\partial x_n}{p}_n$（二阶交互项）

数学含义

• $\frac{{\partial }^{2}f}{\partial x_m\partial x_n}$ 是模型输出对位置 $m$ 和 $n$ 的词元嵌入 $x_m$ 和 $x_n$ 的混合二阶导数，表示两位置之间的相互影响。

• $p_m^T\frac{{\partial }^{2}f}{\partial x_m\partial x_n}{p}_n$ 是位置编码 $p_m$ 和 $p_n$ 与混合导数的交互，反映了位置 $m$ 和 $n$ 的联合效应。

• 这项捕捉了相对位置信息，因为它依赖于 $p_m$ 和 $p_n$ 之间的关系，通常与两位置的相对距离或顺序相关。

特点

• 与绝对位置项不同，这一项涉及两个位置的交互，体现了位置之间的相对关系。

• 在自注意力机制中，这对应于词元对（如 $m$ 和 $n$）的注意力权重如何受相对位置影响。

例子

• 场景：继续使用"猫追狗"，假设 $m=1$（“猫”），$n=2$（“追”）。

• 相对位置作用：

  • $p_1^T\frac{{\partial }^{2}f}{\partial x_1\partial x_2}{p}_2$ 表示"猫"和"追"之间的交互效应。

  • 在自注意力中，这可能影响注意力权重 $a_{12}=\text{softmax}\left(\frac{q_1^T{k}_2}{\sqrt{d_k}}\right)$，使模型更关注主语和动词的邻近关系。

• 实际效果：

  • 如果序列变为"狗追猫"，位置 $m=1$（“狗”）和 $n=2$（“追”）的相对关系不变，但具体编码 $p_m$ 和 $p_n$ 的值不同，交互项随之调整，反映新的顺序。

与相对位置编码的关系

• 相对位置编码（如Transformer-XL、RoPE）直接通过这种交互项建模位置关系。例如：

  • 在注意力分数中加入相对位置偏置 $R_{m-n}$，使 $a_{mn}$ 依赖 $m$ 和 $n$ 的距离。

  • 这与 $p_m^T\frac{{\partial }^{2}f}{\partial x_m\partial x_n}{p}_n$ 的形式一致，明确捕捉相对位置效应。

1.3.3 更深入的解释

绝对位置信息的作用机制

• 独立性：单位置项（如 $p_m^T\frac{\partial f}{\partial x_m}$）为每个词元提供独立调整，使模型感知"这是第 $m$ 个位置"。

• Transformer中的体现：

  • 输入变为 $x_m+p_m$，自注意力计算 $q_m=(x_m+p_m)W_Q$，键和值类似。

  • 注意力分数 $q_m^T{k}_n$ 包含 $p_m^T{W}_Q{W}_K^T{x}_n$，独立调整每个位置的贡献。

• 局限：绝对位置编码需通过模型学习间接推断相对关系，效率较低。

相对位置信息的作用机制

• 交互性：交互项（如 $p_m^T\frac{{\partial }^{2}f}{\partial x_m\partial x_n}{p}_n$）直接建模位置 $m$ 和 $n$ 的关系。

• Transformer中的体现：

  • 在自注意力中，$q_m^T{k}_n=(x_m+p_m{)}^T{W}_Q{W}_K^T(x_n+p_n)$，展开后包含 $p_m^T{W}_Q{W}_K^T{p}_n$。

  • 这一项依赖 $p_m$ 和 $p_n$ 的交互，与相对距离相关，直接影响 $a_{mn}$。

• 优势：相对位置编码更自然地捕捉语言中的相对顺序，如动词和宾语的距离。

结合实例

• 绝对位置编码：

  • 三角函数编码为位置1（“猫”）生成 $p_1=[\sin (1/10000^{2i/d}),\cos (1/10000^{2i/d})]$，独立标识其位置。

  • 模型通过 $p_1^T\frac{\partial f}{\partial x_1}$ 调整"猫"的权重。

• 相对位置编码：

  • Transformer-XL中，$p_1^T{W}_Q{W}_K^T{p}_2$ 表示"猫"和"追"的相对位置效应，调整注意力权重。

  • 若距离为1（如邻近），交互项增强关联；若距离变大，效应减弱。

1.3.4 总结与意义

• 绝对位置信息：

  • 通过单位置项（如 $p_m^T\frac{\partial f}{\partial x_m}$）为每个词元提供独立标识。

  • 对应绝对位置编码（如三角函数编码），在输入层打破置换不变性。

  • 示例：区分"猫"在位置1和"狗"在位置3。

• 相对位置信息：

  • 通过交互项（如 $p_m^T\frac{{\partial }^{2}f}{\partial x_m\partial x_n}{p}_n$）捕捉位置间关系。

  • 对应相对位置编码（如RoPE），直接调整注意力权重。

  • 示例：增强"猫"和"追"的邻近关系。

• 综合效果：

  • 绝对位置编码奠定基础，相对位置编码优化关系建模，二者共同使Transformer感知顺序，适应复杂语言任务。

---

1.4 所有位置编码都是为了解决置换不变性吗？

位置编码的主要目的是解决置换不变性，但并非其唯一作用。不同的位置编码方法在实现这一目标的同时，还可能带来其他效果或改变模型行为：

• 是的，解决置换不变性是核心目标：

  • 无论是绝对位置编码还是相对位置编码，其根本目的是让模型感知词元顺序，打破自注意力的对称性。
  • 例如，三角函数编码、可训练编码、RoPE等都旨在引入位置依赖性。

• 除此之外的额外作用：

  1. 外推性（Extrapolation）：
     • 定义：外推性是指模型在处理比训练时见过的序列更长的输入时，依然能够保持良好性能的能力。也就是说，模型能够"外推"到训练数据分布之外的序列长度。
     • 某些位置编码（如三角函数编码、相对位置编码）具有良好的外推性，能处理比训练时更长的序列。可训练位置编码则受限于预定义长度。
  2. 计算效率：
     • 绝对位置编码（如可训练编码）增加存储需求，相对位置编码（如RoPE）可能增加注意力计算的开销。
  3. 任务适应性：
     • 相对位置编码更适合自然语言处理任务，因为语言中相对顺序通常比绝对位置更重要（如句法关系）。
  4. 模型表达能力：
     • 相对位置编码（如Transformer-XL）增强了对长距离依赖的捕捉能力；RoPE结合绝对和相对位置优势，提升线性注意力的性能。
  5. 创新性设计：
     • 一些新型位置编码（如递归位置编码FLOATER）不仅解决顺序问题，还通过动态系统建模增强长序列处理能力。

---

1.5 总结

• 如何解决置换不变性：
  • 位置编码通过引入位置信息打破自注意力的对称性。绝对位置编码为每个词元添加独特标识，相对位置编码直接建模词元间关系。
• 数学表现：
  • 置换不变性体现为 $\text{Attention}(PX)=P\cdot \text{Attention}(X)$。位置编码使输入或注意力计算依赖位置，置换后结果不再等价。
  • Taylor展开显示其包含绝对位置项和相对位置项。
• 是否只为置换不变性：
  • 核心目标是解决置换不变性，但也带来外推性、效率、适应性等额外改变。

2. 注意力机制的查询与位置向量：理解它们的关系与作用过程

2.1 基础概念回顾

2.1.1 注意力机制的核心组件

注意力机制基于三种向量：查询(Query)向量、键(Key)向量和值(Value)向量。这些向量通过以下方式生成：

1. 输入嵌入：每个词元首先被转换为嵌入向量 $x_i$
2. 线性变换：通过权重矩阵将嵌入向量投影为查询、键和值
   • 查询向量：$q_i=x_i{W}_Q$
   • 键向量：$k_i=x_i{W}_K$
   • 值向量：$v_i=x_i{W}_V$

2.1.2 位置编码的角色

位置编码为每个位置生成一个向量表示，使模型能够理解序列中词元的顺序。基本形式是：

• 对于位置 $p$，生成位置编码向量 $PE(p)$
• 将位置编码加到输入嵌入：$x_i+PE(i)$

2.2 位置向量与查询向量的关系

现在，让我解释位置向量如何影响查询向量，以及整个注意力计算过程。这里我将采用旋转位置编码(RoPE)作为例子，因为它最直接地展示了位置信息与查询/键向量的交互。

2.2.1 标准注意力机制中的作用过程

在标准的Transformer中（使用加性位置编码，如正弦位置编码），过程如下：

1. 位置信息融入：

   • 将位置编码加到输入嵌入：${\tilde{x}}_i=x_i+PE(i)$
   • 生成查询向量：$q_i={\tilde{x}}_i{W}_Q=(x_i+PE(i))W_Q$
   • 生成键向量：$k_j={\tilde{x}}_j{W}_K=(x_j+PE(j))W_K$

2. 注意力计算：

   • 计算注意力分数：$a_{ij}=\frac{q_i\cdot k_j}{\sqrt{d_k}}$
   • 应用softmax归一化：${\alpha }_{ij}=\text{softmax}(a_{ij})$
   • 加权求和值向量：$o_i={\sum }_j{\alpha }_{ij}{v}_j$

在这个过程中，位置信息间接地影响了查询和键向量，从而影响注意力分数的计算。

2.2.2 RoPE中的作用过程

在旋转位置编码中，位置信息与查询和键向量的交互更加直接和明确：

1. 位置旋转应用：

   • 生成基础查询向量：$q_i=x_i{W}_Q$
   • 应用位置旋转：${\hat{q}}_i=R_{\theta ,i}{q}_i$
   • 同样地，对键向量：${\hat{k}}_j=R_{\theta ,j}{k}_j$

   其中 $R_{\theta ,p}$ 是基于位置 $p$ 的旋转矩阵。

2. 注意力计算：

   • 计算旋转后的注意力分数：$a_{ij}={\hat{q}}_i\cdot {\hat{k}}_j=q_i\cdot R_{\theta ,i-j}{k}_j$
   • 应用softmax归一化：${\alpha }_{ij}=\text{softmax}(a_{ij})$
   • 加权求和值向量：$o_i={\sum }_j{\alpha }_{ij}{v}_j$

注意关键的数学性质：${\hat{q}}_i\cdot {\hat{k}}_j=q_i\cdot R_{\theta ,i-j}{k}_j$。这表明旋转后的点积直接编码了相对位置 $i-j$，使模型能够明确感知词元间的相对位置关系。

2.3 详细的作用过程示例

让我通过一个具体例子来说明位置向量和查询向量如何协同工作。假设我们处理一个简单的句子：“人工智能正在快速发展”。

2.3.1 步骤1: 输入处理与位置融合

以RoPE为例，处理流程如下：

1. 词元嵌入：每个词元转换为嵌入向量

   • “人工” → $x_0$
   • “智能” → $x_1$
   • “正在” → $x_2$
   • “快速” → $x_3$
   • “发展” → $x_4$

2. 生成查询和键向量：

   • $q_0=x_0{W}_Q$, $k_0=x_0{W}_K$ (位置0)
   • $q_1=x_1{W}_Q$, $k_1=x_1{W}_K$ (位置1)
   • … 以此类推

3. 应用位置旋转：

   • ${\hat{q}}_0=R_{\theta ,0}{q}_0$, ${\hat{k}}_0=R_{\theta ,0}{k}_0$
   • ${\hat{q}}_1=R_{\theta ,1}{q}_1$, ${\hat{k}}_1=R_{\theta ,1}{k}_1$
   • … 以此类推

在这个过程中，每个查询和键向量都通过位置特定的旋转变换，将位置信息编入向量表示中。

2.3.2 步骤2: 注意力计算

考虑位置2的词元"正在"如何与其他词元交互：

1. 计算注意力分数：对于每个位置 $j$，计算 $a_{2j}={\hat{q}}_2\cdot {\hat{k}}_j$

   • 与"人工"的注意力：$a_{20}={\hat{q}}_2\cdot {\hat{k}}_0=q_2\cdot R_{\theta ,2-0}{k}_0=q_2\cdot R_{\theta ,2}{k}_0$
   • 与"智能"的注意力：$a_{21}={\hat{q}}_2\cdot {\hat{k}}_1=q_2\cdot R_{\theta ,2-1}{k}_1=q_2\cdot R_{\theta ,1}{k}_1$
   • 与自身的注意力：$a_{22}={\hat{q}}_2\cdot {\hat{k}}_2=q_2\cdot R_{\theta ,2-2}{k}_2=q_2\cdot R_{\theta ,0}{k}_2=q_2\cdot k_2$
   • 与"快速"的注意力：$a_{23}={\hat{q}}_2\cdot {\hat{k}}_3=q_2\cdot R_{\theta ,2-3}{k}_3=q_2\cdot R_{\theta ,-1}{k}_3$
   • 与"发展"的注意力：$a_{24}={\hat{q}}_2\cdot {\hat{k}}_4=q_2\cdot R_{\theta ,2-4}{k}_4=q_2\cdot R_{\theta ,-2}{k}_4$

2. 应用softmax：${\alpha }_{2j}=\text{softmax}(a_{2j})$

   这将注意力分数归一化为概率分布，表示"正在"对每个位置的关注程度。

3. 加权聚合值向量：$o_2={\sum }_j{\alpha }_{2j}{v}_j$

   这一步合成了与"正在"相关联的信息，同时考虑了位置关系。

2.3.3 关键观察

在上面的例子中，我们可以观察到几个重要特点：

1. 相对位置的直接编码：注意力分数 $a_{2j}$ 直接依赖于相对位置 $2-j$，通过 $R_{\theta ,2-j}$ 编码。

2. 自注意力的特殊性：当 $i=j$ 时（词元与自身的注意力），旋转矩阵变为单位矩阵 $R_{\theta ,0}$，使得 $a_{ii}=q_i\cdot k_i$，这是标准内积。

3. 前后关系的区分：

   • 前面的词元（如"人工"和"智能"）通过正相对位置 $(+2,+1)$ 编码
   • 后面的词元（如"快速"和"发展"）通过负相对位置 $(-1,-2)$ 编码

   这使模型能够区分前后文关系。

2.4 位置向量如何影响注意力分布

位置编码对注意力分布的影响是多方面的，这种影响通过以下机制实现：

2.4.1 相对距离敏感性

在RoPE中，旋转矩阵 $R_{\theta ,i-j}$ 编码相对距离 $i-j$，这使得模型能够学习距离敏感的注意力模式：

• 近距离偏好：模型可以学习给予临近词元更高的注意力
• 语法依赖：捕捉如主谓关系等可能跨越多个位置的结构
• 长距离关联：识别远距离的相关信息，如代词与其指代对象

2.4.2 方向感知

RoPE的一个关键特性是它能区分正负相对位置，即前文和后文：

• 当 $i>j$ 时（关注前面的内容），旋转矩阵是 $R_{\theta ,+(i-j)}$
• 当 $i<j$ 时（关注后面的内容），旋转矩阵是 $R_{\theta ,-(j-i)}$

这使模型能够学习方向敏感的注意力模式，例如在英语中，形容词通常在名词前面，而在汉语中，形容词的位置可能更灵活。

2.4.3 频率差异化

RoPE使用不同频率的旋转，对应于向量的不同维度：

• 高频组件（向量的前几对维度）对小的位置变化敏感，有助于捕捉局部结构
• 低频组件（向量的后几对维度）对大的位置变化敏感，有助于捕捉全局结构

这种多尺度表示使模型能够同时关注局部语法关系和全局文档结构。

2.5 注意力查询和位置向量的共同演化

在训练过程中，注意力机制的查询向量和位置编码不是静态的，而是通过反向传播共同演化：

1. 查询投影学习：权重矩阵 $W_Q$ 学习如何从输入嵌入生成有效的查询向量

2. 位置解释学习：模型学习如何解释位置编码提供的位置信息

3. 位置敏感的内容识别：模型逐渐发展出位置感知的表示，使相同词在不同位置可以有不同的解释

这种共同演化使模型能够形成复杂的注意力模式，例如：

• 在句子开头关注主语
• 在动词后关注宾语
• 在代词处回溯寻找指代对象

2.6 实际应用中的表现

在实际应用中，位置编码与注意力查询的交互表现出丰富的模式：

2.6.1 例子：情感分析任务

考虑句子：“这部电影很无聊，但演员表演精彩”。

在没有位置编码的情况下，模型可能无法区分"无聊"和"精彩"分别修饰什么，导致情感判断混淆。

有了位置编码，注意力查询能够正确关联：

• “无聊"与"电影”
• “精彩"与"演员表演”
• "但"作为转折关系的信号

这种正确的关联是通过位置编码与查询向量的交互实现的。

2.6.2 例子：翻译任务

在翻译英语到中文时，位置编码帮助模型处理两种语言不同的语法结构：

英语：“The red car is parked outside the building.” 中文：“红色的汽车停在建筑物外面。”

位置编码使模型能够学习：

• 英语中形容词在名词前（“red car”）
• 英语中使用被动语态的位置结构
• 中文中表达位置关系的不同方式

这种跨语言的结构映射依赖于位置编码与注意力机制的紧密协作。

参考

更详细的分类和介绍

1. 苏神科学空间
2. https://0809zheng.github.io/2022/07/01/posencode.html
3. Rope解析