PyTorch学习笔记：nn.Sigmoid——Sigmoid激活函数

PyTorch学习笔记：nn.Sigmoid——Sigmoid激活函数

torch.nn.Sigmoid()

功能：逐元素应用Sigmoid函数对数据进行激活，将元素归一化到区间(0,1)内

函数方程：
$$Sigmoid(x)=\sigma (x)=\frac{1}{1+e^{-x}}$$

上图来源于PyTorch官方文档

输入：

• inplace：是否改变输入数据，如果设置为True，则会直接修改输入数据；如果设置为False，则不对输入数据做修改

注意：

• 输入可以是任意尺寸的数据，输出尺寸与输入尺寸相同

代码案例

一般用法

import torch.nn as nn
import torch
a = torch.randn(10)
sigmoid = nn.Sigmoid()
b = sigmoid(a)
print(a)
print(b)

输出

# 数据经过sigmoid之前
tensor([-0.0175, -0.3315, -1.4424, -2.1318,  1.8448, -0.6835, -1.9436,  1.3432, 0.2550,  1.1898])
# 数据经过sigmoid之后
tensor([0.4956, 0.4179, 0.1912, 0.1060, 0.8635, 0.3355, 0.1252, 0.7930, 0.5634, 0.7667])

官方文档

nn.Sigmoid()：https://pytorch.org/docs/stable/generated/torch.nn.Sigmoid.html#torch.nn.Sigmoid

初步完稿于：2022年1月29日