Datawhile 组队学习Tiny-universe Task01

Task01：LLama3模型讲解

仓库链接：GitHub - datawhalechina/tiny-universe: 《大模型白盒子构建指南》：一个全手搓的Tiny-Universe

参考博客：LLaMA的解读与其微调(含LLaMA 2)：Alpaca-LoRA/Vicuna/BELLE/中文LLaMA/姜子牙_llama微调-CSDN博客

https://zhuanlan.zhihu.com/p/694072728

Part1：LLama的发展历程

LLaMA（Large Language Model Assistant）一系列大型开源语言模型，自2023年以来，已经经历了几次重要的迭代和升级。以下是LLaMA模型的发展历程：

1. LLaMA 1系列：2023年2月，Meta发布了LLaMA 1，这是一系列基于Transformer架构的模型，包括7B、13B、30B和65B四个参数量版本。这些模型在超过1T token的语料上进行了预训练，并且在多个基准测试中表现出色，超越了当时具有175B参数的GPT-3模型。LLaMA 1的开源策略使其迅速成为开源社区中受欢迎的大模型之一，促进了基于LLaMA的生态圈的发展。

2. LLaMA 2系列：2023年7月，Meta发布了LLaMA 2，包括7B、13B、34B和70B四个参数量版本。与LLaMA 1相比，LLaMA 2将预训练的语料扩充到了2T token，并将模型的上下文长度从2048翻倍到了4096。此外，LLaMA 2引入了分组查询注意力机制（Grouped Query Attention, GQA）等技术，进一步提升了模型性能。

3. LLaMA 3系列：2024年4月，Meta发布了LLaMA 3，包括8B和70B两个参数量版本，并且透露了400B参数量的版本正在训练中。LLaMA 3在技术上实现了全面升级，支持更长的上下文长度，采用了更高效的tokenizer，并且在推理、代码生成和指令跟随等方面展现出卓越的性能。

LLaMA模型的开源策略不仅推动了AI技术的普及和创新，也为广大开发者提供了宝贵的研究资源，加速了AI技术的商业化进程，并促进了多模态、多语言技术的发展。随着技术的不断进步和应用场景的不断拓展，LLaMA模型预计将在更多领域发挥重要作用，为人类社会带来更加智能、便捷的生活体验。

Part2：LLama3的主要特点

LLaMA 3模型作为Meta公司在人工智能领域的最新贡献，具有以下几个主要特点：

1. 更大的词汇表和上下文支持：LLaMA 3模型采用了128,256个标记的分词器，相比之前的32,000个标记有显著提升，这使得模型能够更有效地编码文本，无论是输入还是输出，都可能带来更强的多语言处理能力和整体性能提升。此外，模型支持的上下文长度也得到了增加，能够处理更长的序列，这对于理解和生成文本尤为重要。

2. 分组查询注意力（Grouped-Query Attention, GQA）：LLaMA 3模型采用了分组查询注意力技术，这是一种优化的自注意力机制，可以提高模型处理长距离依赖关系的能力，同时提高推理效率。这对于处理长文本和复杂语言结构非常有帮助。

3. 大规模预训练数据：LLaMA 3使用了超过15万亿个Token的庞大数据集进行训练，这是之前模型的数倍。这些数据涵盖了广泛的主题和语言，使得模型在多种任务和领域上都表现出色。

4. 多语言能力：LLaMA 3的预训练数据集融入了超过5%的非英语内容，覆盖了超过30种不同的语言，这使得LLaMA 3具备更强的多语言处理能力，能够更好地服务于全球用户。

这些特点使得LLaMA 3在大型语言模型领域中具有显著的地位，并且由于其开源特性，它有望推动AI技术的普及和创新。LLaMA 3模型的发布，不仅在技术上实现了多项创新，更在多个应用场景中展现出强大的性能，预示着开源大模型时代的来临。

Part3：LLama3的网络结构

LLaMA 3模型的网络结构遵循了Transformer架构的设计，这是当前大型语言模型（LLMs）中常用的架构。以下是LLaMA 3模型网络结构的一些关键特点：

1. 解码器架构：

   • Transformer模型通常由编码器（Encoder）和解码器（Decoder）组成。在LLaMA 3中，使用的是纯解码器架构，这意味着模型专注于生成响应或翻译，而不是同时进行编码和解码。
   • 解码器架构特别适合于文本生成任务，因为它能够基于之前的输出继续生成文本，这对于聊天机器人、文本摘要、机器翻译等应用至关重要。

2. 自注意力机制：

   • 自注意力机制是Transformer的核心，它允许模型在处理每个词元时考虑到整个输入序列，从而捕捉长距离依赖关系。
   • 自注意力层通过计算词元之间的注意力权重来工作，这些权重表明在生成响应时应该给予每个词元多少关注。

3. 多头注意力：

   • 多头注意力机制是自注意力的一个扩展，它将自注意力过程复制多次，每个“头”学习输入数据的不同表示。
   • 这增加了模型的容量，使其能够同时学习多种特征和模式，提高了对复杂语言结构的处理能力。

4. 前馈网络：

   • 前馈网络是Transformer中的另一个关键组件，它对自注意力层的输出进行处理，引入非线性变换。
   • 这些网络通常是逐位置的，意味着它们独立地对序列中的每个位置应用相同的操作，这有助于模型学习更复杂的特征。

5. 残差连接和层归一化：

   • 残差连接允许模型在每个子层（自注意力和前馈网络）的输出中添加输入，这有助于信息在深层网络中的流动，减轻梯度消失的问题。
   • 层归一化是在每个子层之后应用的，它对每个样本的特征进行归一化，有助于稳定训练过程并加快收敛速度。

6. 分组查询注意力（Grouped-Query Attention, GQA）：

   • GQA是一种优化技术，它通过将查询（Query）分组来减少自注意力计算的复杂性，从而提高模型的效率。
   • 这种方法在处理长序列时特别有用，因为它可以减少计算量和内存需求，同时保持模型性能。

7. 位置编码：

   • 位置编码是Transformer模型中的一个关键概念，因为模型本身无法直接理解序列中词元的顺序。
   • 位置编码向模型提供关于词元在序列中位置的信息，通常通过添加一组正弦和余弦函数来实现，这些函数的频率随位置变化。

这些特点共同构成了LLaMA 3模型的网络结构，使其能够有效地处理和生成自然语言。每个组件都经过精心设计，以确保模型在各种NLP任务中都能表现出色。

RMSNorm

RMSNorm（Root Mean Square Normalization）是一种归一化技术，是 Layer Normalization 的一个变体，它在训练深度神经网络时有助于稳定梯度并加速收敛。以下是 RMSNorm 的一些关键特点和工作原理：

1. 归一化过程：

   • RMSNorm 对每个特征维度的输入进行归一化，使得它们的均值接近于0，标准差接近于1。这是通过计算输入的均值和根均方（RMS，即标准差的平方根）来实现的。

2. 计算方式：

   • 对于给定的输入张量 X，RMSNorm 首先计算每个特征维度的均值 μ 和根均方 σ（标准差 μ​）。
   • 然后，每个特征值会被归一化，其中 x 是输入张量中的元素。

                                     

                                 

                             

• 可学习参数：

  • RMSNorm 通常包含两个可学习参数 γγ 和 ββ，这些参数在训练过程中与归一化的输出相乘和相加，以允许模型学习最佳的缩放和偏移量。
  • 最终的归一化输出为：

                                

• 与Layer Normalization的比较：

  • Layer Normalization 计算每个样本的均值和方差，并对每个样本的特征进行归一化。这有助于减少内部协变量偏移，但在处理长序列时可能不太有效。
  • RMSNorm 计算每个特征维度的均值和根均方，而不是每个样本的，这使得它在处理长序列时更加有效，因为它考虑了整个批次的信息。

代码实现

class RMSNorm(nn.Module):def __init__(self, dim, eps=1e-8):super(RMSNorm, self).__init__()self.dim = dimself.eps = epsself.scale = nn.Parameter(torch.ones(dim))def forward(self, x):mean = x.mean(dim=-1, keepdim=True)rms = torch.sqrt(x.var(dim=-1, keepdim=True, unbiased=False) + self.eps)x_norm = x / rmsreturn self.scale * x_norm

GQA

分组查询注意力（Grouped Query Attention），是一种优化的自注意力机制，旨在提高大型语言模型的效率和性能。这种方法通过将查询（queries）分组来减少计算复杂度，同时保持或甚至提高模型的性能。GQA在处理长序列时尤其有用，因为它可以减少自注意力操作中的冗余计算。

在标准的自注意力机制中，每个输入元素都会生成一个查询、键（keys）和值（values），然后计算所有查询与所有键的点积，以确定每个元素应该关注序列中的哪些部分。这种方法在处理长序列时计算量很大，因为它需要对序列中的每个元素进行全对全的比较。

GQA通过以下步骤来优化这一过程：

1. 分组查询：将查询（queries）分成多个组，每组只与对应的键（keys）和值（values）进行交互。这样可以减少需要计算的点积的数量。

2. 点积和注意力权重：在每个组内计算点积和注意力权重，然后应用softmax函数来获得归一化的注意力权重。

3. 加权和：使用注意力权重对每个组内的值（values）进行加权和，得到最终的输出。

4. 残差连接和层归一化：与标准的Transformer层一样，GQA的输出通常会与输入进行相加（残差连接），然后进行层归一化（Layer Normalization）。

GQA的关键优势在于它能够在不牺牲太多准确性的情况下减少计算量，这对于在资源受限的环境中部署大型模型尤为重要。

class GQALayer(nn.Module):def __init__(self, dim, num_heads, group_size):super(GQALayer, self).__init__()self.num_heads = num_headsself.group_size = group_sizeself.head_dim = dim // num_headsself.scale = self.head_dim ** -0.5self.to_qkv = nn.Linear(dim, dim * 3, bias=False)self.to_out = nn.Linear(dim, dim)def forward(self, x):batch_size, seq_length, dim = x.shapegroups = x.view(batch_size, seq_length // self.group_size, self.group_size, dim)qkv = self.to_qkv(groups)q, k, v = qkv.chunk(3, dim=-1)q = q * self.scaleattn_weights = torch.matmul(q, k.transpose(-2, -1))attn_weights = F.softmax(attn_weights, dim=-1)out = torch.matmul(attn_weights, v)out = out.transpose(1, 2).reshape(batch_size, -1, dim)out = self.to_out(out)return out

RoPE

旋转编码（Rotary Positional Embedding，简称RoPE）是一种用于Transformer模型中的位置编码技术。它旨在改进模型对序列中单词位置信息的处理，特别是在处理长序列时。RoPE的核心思想是通过将位置信息编码为旋转矩阵，然后将这些矩阵与词嵌入相乘，从而使模型能够更有效地利用位置信息。

RoPE的关键特点包括：

1. 旋转矩阵：对于序列中的每个位置，RoPE使用两个旋转矩阵（一个用于每个维度的偶数和奇数位置）来编码位置信息。这些矩阵是基于正弦和余弦函数构建的，它们能够保持相对位置信息，即使在序列很长时也是如此。

2. 与词嵌入的结合：RoPE通过将旋转矩阵与词嵌入相乘来整合位置信息，这允许模型在处理每个词时同时考虑其位置和内容。

3. 相对位置编码：RoPE能够捕捉序列中单词之间的相对位置关系，这对于理解文本中的句法和语义结构非常重要。

RoPE的数学表达式如下：

对于序列中的每个位置 p，我们定义两个旋转矩阵 和 ​，其中 i 是维度索引。这些矩阵的元素定义为：

                                 

                ​​​​​​​        ​​​​​​​        

其中 ​ 是位置 p 的角度，通常由位置索引和缩放因子决定。

然后，对于每个词嵌入  在位置 t，我们应用RoPE：

                                

        ​​​​​​​                        

这里 是应用RoPE后的位置编码词嵌入， 和  是词嵌入 etet​ 中的相邻维度对。

RoPE的实现通常涉及为序列中的每个位置定义一对旋转矩阵，这些矩阵基于正弦和余弦函数构建，并且与位置索引相关联。这些矩阵然后与词嵌入的相应维度相乘，以注入位置信息。RoPE的设计允许模型在计算自注意力时考虑到单词的相对位置，这对于理解文本中的句法和语义结构至关重要。

class RotaryPositionalEmbedding(torch.nn.Module):def __init__(self, dim, max_seq_len=512):super(RotaryPositionalEmbedding, self).__init__()self.dim = dimself.max_seq_len = max_seq_lenself.inv_freq = 1.0 / (10000 ** (torch.arange(0, dim, 2).float() / dim))def forward(self, x):seq_len, batch_size, _ = x.shapepositions = torch.arange(0, seq_len).unsqueeze(1).unsqueeze(2).to(x.device)freqs = torch.einsum("i,j->ij", positions, self.inv_freq)cos_terms = torch.cos(freqs)sin_terms = torch.sin(freqs)x1 = x[..., ::2] * cos_terms + x[..., 1::2] * sin_termsx2 = -x[..., ::2] * sin_terms + x[..., 1::2] * cos_termsx_new = torch.stack((x1, x2), dim=-1).reshape(seq_len, batch_size, self.dim)return x_new