NLP 中的pad/padding操作代码分析

今天分析一下NLP中的pad操作代码：

该方法的作用是将输入的序列列表seqs进行填充操作，使其具有相同的长度，以便进行批处理。填充使用指定的pad_token进行，并生成一个对应的mask标志列表，用于标记哪些部分是填充内容（值为1）和哪些部分是原始内容（值为0）。填充后的序列列表和掩盖标志列表将作为方法的返回值，供进一步使用或处理。

    @staticmethoddef _pad_seqs(seqs, pad_token):# 定义变量pad_length，通过遍历seqs token列表获取其中最长token的长度，从而将token列表的所有seq长度都填充到pad_lengthpad_length = max([len(seq) for seq in seqs])# 对seqs中的每个token列表进行填充，填充内容为pad_token，填充至长度为pad_lengthpadded = [seq + ([pad_token] * (pad_length - len(seq))) for seq in seqs]# 创建一个mask标志列表，长度为seq的长度，并将前部填充部分置为0（未经过pad），后部未填充部分置为1（经过了pad操作），添加到masks列表中。masks = [([0] * len(seq)) + ([1] * (pad_length - len(seq))) for seq in seqs]return padded, masks

输入：

• seqs是token的list
• pad_token是词表中预先定义的特殊字符 '<PAD>'

tokens, orig_pad_masks = self._pad_seqs(tokens, self.pad_token)

输出：

• 填充后的token，padded[0]：['^', 'C', 'C', 'n', '1', 'c', 'c', '(', '/', 'C', '=', 'C', '2', '/', 'C', '(', '=', 'O', ')', 'N', '(', 'c', '3', 'c', 'c', 'c', '(', 'C', ')', 'c', '(', 'Cl', ')', 'c', '3', ')', 'C', '(', '=', 'O', ')', 'N', '=', 'C', '2', '[O-]', ')', 'c', '2', 'c', 'c', 'c', 'c', 'c', '2', '1', '&', '<PAD>', '<PAD>', '<PAD>', '<PAD>', '<PAD>', '<PAD>', '<PAD>']
• mask标志列表，mask[0]：[0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 1, 1, 1, 1, 1, 1, 1]