pytorch详细探索各种cnn卷积神经网络

目录

torch.nn.functional子模块详解

conv1d

用法和用途

使用技巧

适用领域

参数

注意事项

示例代码

conv2d

用法和用途

使用技巧

适用领域

参数

注意事项

示例代码

conv3d

用法和用途

使用技巧

适用领域

参数

注意事项

示例代码

conv_transpose1d

用法和用途

使用技巧

适用领域

参数

注意事项

示例代码

conv_transpose2d

用法和用途

使用技巧

适用领域

参数

注意事项

示例代码

conv_transpose3d

用法和用途

使用技巧

适用领域

参数

注意事项

示例代码

unfold

用法和用途

注意事项

参数

返回值

示例代码

fold

用法和用途

注意事项

参数

返回值

示例代码

总结

---

torch.nn.functional子模块详解

conv1d

torch.nn.functional.conv1d 是 PyTorch 深度学习框架中的一个函数，用于应用一维卷积。这个函数通常用于处理时间序列数据或一维信号数据（如音频信号），在神经网络中用于特征提取和学习信号的局部模式。

用法和用途

• 用法: conv1d 用于在一维输入信号上应用卷积运算。
• 用途: 常用于处理序列数据，如时间序列分析、语音识别或任何一维信号处理任务。

使用技巧

• 选择合适的核大小（kW）: 核大小决定了卷积窗口的宽度，它应根据输入数据的特性来选择。
• 调整步长（stride）: 步长决定了卷积窗口移动的距离。较大的步长可以减少输出的维度。
• 使用填充（padding）: 填充可以帮助你控制输出的维度。特别是 'same' 填充可以保持输入和输出的维度相同。
• 设置组（groups）: 通过设置组，可以使得网络分别学习不同组的特征，这在处理多通道数据时特别有用。

适用领域

• 音频信号处理: 如语音识别、音乐生成等。
• 时间序列预测: 如股票价格预测、天气预测等。
• 任何需要分析或处理一维数据的场景。

参数

1. input: 输入张量，形状为 (minibatch, in_channels, iW)。
2. weight: 卷积核，形状为 (out_channels, in_channels/groups, kW)。
3. bias: 可选的偏置项，形状为 (out_channels)。
4. stride: 卷积核的步长，默认为 1。
5. padding: 输入的隐式填充，默认为 0。
6. dilation: 卷积核元素之间的间距，默认为 1。
7. groups: 输入分组数，默认为 1。

注意事项

• 当使用 CUDA 设备和 CuDNN 时，该操作可能选择非确定性算法以提高性能。如果需要确定性操作，请设置 torch.backends.cudnn.deterministic = True。
• 支持复数数据类型（complex32, complex64, complex128）。
• 使用 padding='same' 时，如果卷积核长度是偶数且扩张是奇数，可能需要内部进行完整的 pad() 操作，可能降低性能。

示例代码

import torch
import torch.nn.functional as F# 输入数据
inputs = torch.randn(33, 16, 30)  # 随机生成输入数据# 卷积核
filters = torch.randn(20, 16, 5)  # 随机生成卷积核# 应用一维卷积
output = F.conv1d(inputs, filters)

在这个例子中，inputs 是一个随机生成的一维信号，而 filters 是卷积核。F.conv1d 函数应用这些卷积核于输入信号，生成卷积后的输出。 

conv2d

torch.nn.functional.conv2d 是 PyTorch 中的一个函数，用于在图像数据上应用二维卷积。这个函数是卷积神经网络（CNN）中的核心，用于处理二维数据，如图像，以提取特征和进行图像识别等任务。

用法和用途

• 用法: conv2d 在二维输入（通常是图像）上应用卷积核，以提取特征。
• 用途: 广泛用于图像处理和计算机视觉任务，如图像分类、对象检测、图像分割等。

使用技巧

• 选择合适的卷积核大小（kH, kW）: 卷积核的大小决定了特征提取的粒度。
• 调整步长（stride）: 步长控制卷积核移动的距离，可以用来控制输出特征图的大小。
• 使用填充（padding）: 填充用于控制输出特征图的空间维度。'same' 填充保持输入和输出的空间维度相同。
• 考虑扩张（dilation）: 扩张可以增加卷积核感受野的大小，有助于捕捉更大范围的特征。
• 设置组（groups）: 组卷积允许网络在不同的输入通道组上分别学习特征，有助于模型的多样性。

适用领域

• 图像识别: 识别图像中的对象、人脸、场景等。
• 视频分析: 处理视频数据，如动作识别、事件检测。
• 医学图像处理: 比如 MRI 或 CT 扫描的分析。

参数

1. input: 输入张量，形状为 (minibatch, in_channels, iH, iW)。
2. weight: 卷积核，形状为 (out_channels, in_channels/groups, kH, kW)。
3. bias: 可选的偏置张量，形状为 (out_channels)。默认为 None。
4. stride: 卷积核的步长，可以是单个数字或元组 (sH, sW)。默认为 1。
5. padding: 输入的隐式填充，可以是字符串 {'valid', 'same'}，单个数字或元组 (padH, padW)。默认为 0。
6. dilation: 卷积核元素之间的间距，可以是单个数字或元组 (dH, dW)。默认为 1。
7. groups: 将输入分成组进行卷积，in_channels 和 out_channels 都应该能被组数整除。默认为 1。

注意事项

• 当使用 CUDA 设备和 CuDNN 时，此操作可能选择非确定性算法以提高性能。如果需要确定性操作，请设置 torch.backends.cudnn.deterministic = True。
• 支持复数数据类型（complex32, complex64, complex128）。
• 使用 padding='same' 时，如果卷积核长度是偶数且扩张是奇数，可能需要内部进行完整的 pad() 操作，可能降低性能。

示例代码

import torch
import torch.nn.functional as F# 定义卷积核和输入
filters = torch.randn(8, 4, 3, 3)  # 卷积核
inputs = torch.randn(1, 4, 5, 5)  # 输入图像# 应用二维卷积
output = F.conv2d(inputs, filters, padding=1)

在这个例子中，inputs 表示输入图像的张量，而 filters 是卷积核。使用 F.conv2d 函数，我们可以将这些卷积核应用于输入图像，从而生成卷积后的输出特征图。 

conv3d

torch.nn.functional.conv3d 是 PyTorch 框架中的一个函数，用于在三维数据上应用三维卷积。这个函数主要用于处理具有三维结构的数据，如体积数据或视频序列，常见于医学影像分析、视频处理和三维数据建模等领域。

用法和用途

• 用法: conv3d 在三维输入数据上应用卷积核，提取特征。
• 用途: 主要用于三维数据的特征提取，如体积成像、视频序列分析等。

使用技巧

• 卷积核尺寸（kT, kH, kW）: 根据输入数据的特点选择合适的卷积核尺寸，以有效捕捉数据的空间和时间特征。
• 步长（stride）: 控制卷积核的移动步长，可以调整输出数据的大小。
• 填充（padding）: 填充可以用于控制输出数据的空间尺寸。特别是 'same' 填充可以使输出和输入具有相同的尺寸。
• 扩张（dilation）: 扩张用于增加卷积核元素之间的间距，有助于提取更大范围的特征。
• 组（groups）: 组卷积可以使得不同的组独立学习特征，对于多通道数据来说尤其有用。

适用领域

• 医学成像: 如 CT 和 MRI 数据的分析。
• 视频处理: 对视频序列进行分析，如动作识别。
• 三维数据建模: 在计算机视觉和图形学中处理三维数据。

参数

1. input: 输入张量，形状为 (minibatch, in_channels, iT, iH, iW)。
2. weight: 卷积核，形状为 (out_channels, in_channels/groups, kT, kH, kW)。
3. bias: 可选的偏置张量，形状为 (out_channels)。默认为 None。
4. stride: 卷积核的步长，可以是单个数字或元组 (sT, sH, sW)。默认为 1。
5. padding: 输入的隐式填充，可以是字符串 {'valid', 'same'}，单个数字或元组 (padT, padH, padW)。默认为 0。
6. dilation: 卷积核元素之间的间距，可以是单个数字或元组 (dT, dH, dW)。默认为 1。
7. groups: 将输入分成组，in_channels 应该能被组数整除。默认为 1。

注意事项

• 使用 CUDA 和 CuDNN 时，可能选择非确定性算法以提高性能。如果需要确定性操作，可设置 torch.backends.cudnn.deterministic = True。
• 支持复数数据类型（complex32, complex64, complex128）。
• 使用 padding='same' 时，如果卷积核长度是偶数且扩张是奇数，可能需要内部进行完整的 pad() 操作，这可能会降低性能。

示例代码

import torch
import torch.nn.functional as F# 定义卷积核和输入
filters = torch.randn(33, 16, 3, 3, 3)  # 卷积核
inputs = torch.randn(20, 16, 50, 10, 20)  # 三维输入数据# 应用三维卷积
output = F.conv3d(inputs, filters)

在这个例子中，inputs 是一个三维数据张量，而 filters 是卷积核。使用 F.conv3d 函数，可以在三维数据上应用这些卷积核，生成卷积后的输出特征图。这在处理具有时间或深度维度的数据时非常有用。 

conv_transpose1d

torch.nn.functional.conv_transpose1d 是 PyTorch 框架中的一个函数，用于在一维数据上应用反卷积（也称为转置卷积）。这个操作通常用于增加数据的空间维度，常见于信号处理和生成模型中，如音频生成或时间序列数据的上采样。

用法和用途

• 用法: conv_transpose1d 通过转置卷积核在一维输入数据上执行操作，从而增加数据的空间维度。
• 用途: 常用于时间序列数据的生成任务，如音频合成，或在卷积自编码器和生成对抗网络（GAN）中进行上采样。

使用技巧

• 卷积核大小（kW）: 选择合适的卷积核大小，以控制特征提取的粒度和上采样的效果。
• 步长（stride）: 步长决定了输出信号的扩展程度。较大的步长可以显著增加输出的维度。
• 填充（padding）: 用于控制输出信号的大小。适当的填充可以帮助获得所需的输出维度。
• 输出填充（output_padding）: 进一步调整输出尺寸，确保输出的维度是期望的大小。
• 分组（groups）: 分组操作允许网络在不同的输入通道组上独立进行学习。
• 扩张（dilation）: 扩张参数可以调整卷积核中元素的间隔，用于捕捉更广泛的上下文。

适用领域

• 音频信号处理: 如音频合成和音乐生成。
• 时间序列数据上采样: 在各种时间序列分析任务中，如股市预测或天气模式分析。
• 神经网络的解卷积层: 用于生成模型，如自编码器和生成对抗网络。

参数

1. input: 输入张量，形状为 (minibatch, in_channels, iW)。
2. weight: 卷积核，形状为 (in_channels, out_channels/groups, kW)。
3. bias: 可选的偏置项，形状为 (out_channels)。默认为 None。
4. stride: 卷积核的步长，可以是单个数字或元组 (sW,)。默认为 1。
5. padding: 输入的隐式填充，可以是单个数字或元组 (padW,)。默认为 0。
6. output_padding: 输出的附加填充，可以是单个数字或元组 (out_padW)。默认为 0。
7. groups: 将输入分成组进行卷积，in_channels 应该能被组数整除。默认为 1。
8. dilation: 卷积核元素之间的间距，可以是单个数字或元组 (dW,)。默认为 1。

注意事项

• 使用 CUDA 和 CuDNN 时，可能选择非确定性算法以提高性能。如果需要确定性操作，可设置 torch.backends.cudnn.deterministic = True。
• 支持复数数据类型（complex32, complex64, complex128）。

示例代码

import torch
import torch.nn.functional as F# 定义权重和输入
weights = torch.randn(16, 33, 5)  # 卷积核
inputs = torch.randn(20, 16, 50)  # 一维输入数据# 应用一维反卷积
output = F.conv_transpose1d(inputs, weights)

 在这个示例中，inputs 是一维输入数据，weights 是卷积核。通过使用 F.conv_transpose1d 函数，可以在输入数据上应用反卷积，从而增加其空间维度。这在需要增大数据尺寸或生成新的数据时非常有用。

conv_transpose2d

torch.nn.functional.conv_transpose2d 是 PyTorch 框架中的一个函数，用于在二维数据（通常是图像）上应用二维转置卷积操作，有时也称为“反卷积”或“deconvolution”。这个操作主要用于图像或特征图的上采样，即增加其空间尺寸，常见于图像生成、分割和超分辨率等计算机视觉任务。

用法和用途

• 用法: conv_transpose2d 通过转置卷积核在二维输入数据上执行操作，以增加数据的空间维度。
• 用途: 常用于图像的上采样，如在自编码器或生成对抗网络（GAN）中从低分辨率特征图生成高分辨率图像。

使用技巧

• 卷积核大小（kH, kW）: 选择合适的卷积核大小，以控制特征提取的粒度和上采样的效果。
• 步长（stride）: 步长决定了输出图像的扩展程度。较大的步长可以显著增加输出的尺寸。
• 填充（padding）: 用于控制输出图像的大小。适当的填充可以帮助获得所需的输出尺寸。
• 输出填充（output_padding）: 进一步调整输出尺寸，确保输出的维度是期望的大小。
• 分组（groups）: 分组操作允许网络在不同的输入通道组上独立进行学习。
• 扩张（dilation）: 扩张参数可以调整卷积核中元素的间隔，用于捕捉更广泛的上下文。

适用领域

• 图像生成: 如在 GAN 或 VAE 中生成高分辨率图像。
• 图像分割: 在分割任务中从低分辨率特征图生成高分辨率的分割图。
• 图像超分辨率: 提升图像的分辨率。

参数

1. input: 输入张量，形状为 (minibatch, in_channels, iH, iW)。
2. weight: 卷积核，形状为 (in_channels, out_channels/groups, kH, kW)。
3. bias: 可选的偏置项，形状为 (out_channels)。默认为 None。
4. stride: 卷积核的步长，可以是单个数字或元组 (sH, sW)。默认为 1。
5. padding: 输入的隐式填充，可以是单个数字或元组 (padH, padW)。默认为 0。
6. output_padding: 输出的附加填充，可以是单个数字或元组 (out_padH, out_padW)。默认为 0。
7. groups: 将输入分成组进行卷积，in_channels 应该能被组数整除。默认为 1。
8. dilation: 卷积核元素之间的间距，可以是单个数字或元组 (dH, dW)。默认为 1。

注意事项

• 使用 CUDA 和 CuDNN 时，可能选择非确定性算法以提高性能。如果需要确定性操作，可设置 torch.backends.cudnn.deterministic = True。
• 支持复数数据类型（complex32, complex64, complex128）。

示例代码

import torch
import torch.nn.functional as F# 定义权重和输入
weights = torch.randn(4, 8, 3, 3)  # 卷积核
inputs = torch.randn(1, 4, 5, 5)  # 二维输入数据# 应用二维反卷积
output = F.conv_transpose2d(inputs, weights, padding=1)

这个示例中，inputs 是一个二维输入数据张量（如图像），weights 是卷积核。使用 F.conv_transpose2d 函数可以在输入数据上应用反卷积，从而增加其空间尺寸。这在生成模型和图像处理任务中非常有用，特别是当需要从压缩或降采样的特征图中重构高分辨率图像时。 

conv_transpose3d

torch.nn.functional.conv_transpose3d 是 PyTorch 中的一个函数，用于在三维数据上应用三维转置卷积操作，有时也被称为“反卷积”或“deconvolution”。这种操作通常用于三维数据的上采样，即增加其空间尺寸，常见于体积数据处理、三维图像重建和三维生成模型等应用。

用法和用途

• 用法: conv_transpose3d 通过转置卷积核在三维输入数据上执行操作，增加数据的空间维度。
• 用途: 主要用于三维数据的上采样，例如在医学图像重建、三维图像生成和视频处理中。

使用技巧

• 卷积核大小（kT, kH, kW）: 选择合适的卷积核大小，以控制特征提取的粒度和上采样的效果。
• 步长（stride）: 步长决定了输出体积的扩展程度。较大的步长可以显著增加输出的尺寸。
• 填充（padding）: 用于控制输出体积的大小。适当的填充可以帮助获得所需的输出尺寸。
• 输出填充（output_padding）: 进一步调整输出尺寸，确保输出的维度是期望的大小。
• 分组（groups）: 分组操作允许网络在不同的输入通道组上独立进行学习。
• 扩张（dilation）: 扩张参数可以调整卷积核中元素的间隔，用于捕捉更广泛的上下文。

适用领域

• 医学图像重建: 如 CT 和 MRI 数据的三维重建。
• 三维图像生成: 在计算机视觉和图形学中生成三维图像。
• 视频数据处理: 在视频序列中进行上采样或生成任务。

参数

1. input: 输入张量，形状为 (minibatch, in_channels, iT, iH, iW)。
2. weight: 卷积核，形状为 (in_channels, out_channels/groups, kT, kH, kW)。
3. bias: 可选的偏置项，形状为 (out_channels)。默认为 None。
4. stride: 卷积核的步长，可以是单个数字或元组 (sT, sH, sW)。默认为 1。
5. padding: 输入的隐式填充，可以是单个数字或元组 (padT, padH, padW)。默认为 0。
6. output_padding: 输出的附加填充，可以是单个数字或元组 (out_padT, out_padH, out_padW)。默认为 0。
7. groups: 将输入分成组进行卷积，in_channels 应该能被组数整除。默认为 1。
8. dilation: 卷积核元素之间的间距，可以是单个数字或元组 (dT, dH, dW)。默认为 1。

注意事项

• 使用 CUDA 和 CuDNN 时，可能选择非确定性算法以提高性能。如果需要确定性操作，可设置 torch.backends.cudnn.deterministic = True。
• 支持复数数据类型（complex32, complex64, complex128）。

示例代码

import torch
import torch.nn.functional as F# 定义权重和输入
weights = torch.randn(16, 33, 3, 3, 3)  # 卷积核
inputs = torch.randn(20, 16, 50, 10, 20)  # 三维输入数据# 应用三维反卷积
output = F.conv_transpose3d(inputs, weights)

 在这个示例中，inputs 是一个三维输入数据张量（如体积数据或视频序列），weights 是卷积核。通过使用 F.conv_transpose3d 函数，可以在输入数据上应用反卷积，从而增加其空间尺寸。这在需要从压缩或降采样的数据中重构高分辨率三维图像时非常有用。

unfold

torch.nn.functional.unfold 是 PyTorch 中的一个函数，用于从批量输入张量中提取滑动的局部块。这个函数通常用于图像处理中，以提取图像中的局部区域并进行进一步处理。

用法和用途

• 用法: unfold 函数将一个四维输入张量（通常是一批图像）转换为一个二维张量，其中每一列都是从输入张量中提取的局部块。
• 用途: 这个函数在图像处理任务中很有用，如在实现自定义的卷积操作、局部区域处理或特征提取等。

注意事项

• 目前仅支持四维输入张量（批处理图像样式的张量）。
• 展开的张量中的多个元素可能会引用单一的内存位置。因此，原地操作（尤其是向量化的操作）可能会导致不正确的行为。如果需要对张量进行写操作，请先克隆它。

参数

1. input: 输入张量，形状通常为 (batch_size, channels, height, width)。
2. kernel_size: 提取的局部块的大小，可以是单个整数或一个 (kH, kW) 的元组。
3. dilation: 卷积核元素之间的间距，可以是单个整数或一个 (dH, dW) 的元组。默认为 1。
4. padding: 在输入的各个维度上的隐式零填充，可以是单个整数或一个 (padH, padW) 的元组。默认为 0。
5. stride: 卷积核的步长，可以是单个整数或一个 (sH, sW) 的元组。默认为 1。

返回值

• 返回一个二维张量，其中每一列代表从输入张量中提取的一个局部块。

示例代码

import torch
import torch.nn.functional as F# 示例输入张量
input = torch.randn(1, 3, 5, 5)  # 一个有3个通道的5x5图像# 使用 unfold 提取 3x3 块
unfolded = F.unfold(input, kernel_size=3)# 查看结果
print(unfolded.shape)  # 输出张量的维度

在这个示例中，input 是一个四维张量，代表一批图像。使用 unfold 函数，我们可以从每个图像中提取 3x3 的局部块。结果是一个二维张量，其列数取决于输入图像的尺寸、卷积核大小、填充和步长。 

fold

torch.nn.functional.fold 是 PyTorch 中的一个函数，用于将一组滑动的局部块组合回一个大的包含张量。这个函数通常用于实现称为 "折叠" 的操作，它是 unfold 函数的逆操作，主要用于重建图像或特征图。

用法和用途

• 用法: fold 函数将一个二维张量（通常是经过某种处理的展开的图像块）转换回一个四维张量（即重建后的图像或特征图）。
• 用途: 这个函数通常用于卷积神经网络中，特别是在自定义的卷积或逆卷积操作、图像重建或特征图合成中。

注意事项

• 目前仅支持未批处理的（3D）或批处理的（4D）图像样式输出张量。

参数

1. input: 输入张量，通常是一个二维张量，每一列代表从某个张量中提取的一个局部块。
2. output_size: 输出张量的空间尺寸，可以是一个 (oH, oW) 的元组。
3. kernel_size: 局部块的大小，可以是单个整数或一个 (kH, kW) 的元组。
4. dilation: 卷积核元素之间的间距，可以是单个整数或一个 (dH, dW) 的元组。默认为 1。
5. padding: 在输出的各个维度上的隐式零填充，可以是单个整数或一个 (padH, padW) 的元组。默认为 0。
6. stride: 卷积核的步长，可以是单个整数或一个 (sH, sW) 的元组。默认为 1。

返回值

• 返回一个四维张量，代表重建后的图像或特征图。

示例代码

import torch
import torch.nn.functional as F# 示例输入张量
input = torch.randn(1, 9, 16)  # 假设这是一个展开的图像块# 使用 fold 重建图像
output_size = (5, 5)  # 假设原始图像大小为 5x5
folded = F.fold(input, output_size=output_size, kernel_size=3)# 查看结果
print(folded.shape)  # 输出张量的维度

 在这个示例中，input 是一个二维张量，代表一系列展开的图像块。使用 fold 函数，我们可以将这些块重建回原始尺寸的图像。结果是一个四维张量，其尺寸取决于输出尺寸、卷积核大小、填充和步长。

总结

PyTorch 的 torch.nn.functional 子模块提供了一系列功能强大的函数，用于实现卷积神经网络中的关键操作。这些函数涵盖从基本的卷积操作到高级数据变换技术，使其成为处理和分析图像、音频和视频数据的重要工具。这些函数的灵活性和多样性使其在深度学习领域中具有广泛的应用，如图像处理、音频分析、时间序列预测等。conv1d, conv2d, conv3d: 分别用于一维、二维和三维数据的卷积操作，广泛应用于特征提取和数据分析。conv_transpose1d, conv_transpose2d, conv_transpose3d: 对应的反卷积操作，用于数据的上采样和维度扩展。unfold: 从批量输入张量中提取局部块，适用于自定义卷积操作和局部特征分析。fold: 将展开的局部块组合回原始张量，用于图像重建和特征图合成。它们的高效实现和易用性进一步加强了 PyTorch 在科学研究和工业应用中的地位。