电子发烧友App

硬声App

0
  • 聊天消息
  • 系统消息
  • 评论与回复
登录后你可以
  • 下载海量资料
  • 学习在线课程
  • 观看技术视频
  • 写文章/发帖/加入社区
会员中心
创作中心

完善资料让更多小伙伴认识你,还能领取20积分哦,立即完善>

3天内不再提示
创作
电子发烧友网>电子资料下载>电子资料>PyTorch教程14.10之转置卷积

PyTorch教程14.10之转置卷积

2023-06-05 | pdf | 0.19 MB | 次下载 | 免费

资料介绍

到目前为止我们看到的 CNN 层,例如卷积层(第 7.2 节)和池化层(第 7.5 节),通常会减少(下采样)输入的空间维度(高度和宽度),或保持它们不变。在像素级分类的语义分割中,如果输入和输出的空间维度相同,将会很方便。例如,一个输出像素的通道维度可以保存同一空间位置输入像素的分类结果。

为了实现这一点,特别是在空间维度被 CNN 层减少之后,我们可以使用另一种类型的 CNN 层来增加(上采样)中间特征图的空间维度。在本节中,我们将介绍转置卷积,也称为分数步卷积 Dumoulin 和 Visin,2016,用于通过卷积反转下采样操作。

import torch
from torch import nn
from d2l import torch as d2l
from mxnet import init, np, npx
from mxnet.gluon import nn
from d2l import mxnet as d2l

npx.set_np()

14.10.1。基本操作

现在忽略通道,让我们从步幅为 1 且无填充的基本转置卷积运算开始。假设我们有一个nh×nw输入张量和 kh×kw核心。以 1 的步幅滑动内核窗口nw每行的次数和nh每列中的次数总共产生nhnw中间结果。每个中间结果是一个(nh+kh−1)×(nw+kw−1) 初始化为零的张量。为了计算每个中间张量,输入张量中的每个元素都乘以内核,从而得到kh×kw张量替换每个中间张量中的一部分。请注意,每个中间张量中替换部分的位置对应于用于计算的输入张量中元素的位置。最后,将所有中间结果相加以产生输出。

例如,图 14.10.1说明了转置卷积如何与2×2内核是为a计算的 2×2输入张量。

//m.obk20.com/file/web2/M00/AA/47/pYYBAGR9O-eAfeCmAAF8E5pjn2Q264.svg

图 14.10.1转置卷积2×2核心。阴影部分是中间张量的一部分以及用于计算的输入和内核张量元素。

trans_conv我们可以为输入矩阵X和核矩阵实现这种基本的转置卷积运算 K

def trans_conv(X, K):
  h, w = K.shape
  Y = torch.zeros((X.shape[0] + h - 1, X.shape[1] + w - 1))
  for i in range(X.shape[0]):
    for j in range(X.shape[1]):
      Y[i: i + h, j: j + w] += X[i, j] * K
  return Y
def trans_conv(X, K):
  h, w = K.shape
  Y = np.zeros((X.shape[0] + h - 1, X.shape[1] + w - 1))
  for i in range(X.shape[0]):
    for j in range(X.shape[1]):
      Y[i: i + h, j: j + w] += X[i, j] * K
  return Y

与通过内核 减少输入元素的常规卷积(在第 7.2 节中)相反,转置卷积通过内核广播输入元素,从而产生大于输入的输出。我们可以从图 14.10.1构造输入张量 和核张量来验证上述基本二维转置卷积运算的实现的输出。XK

X = torch.tensor([[0.0, 1.0], [2.0, 3.0]])
K = torch.tensor([[0.0, 1.0], [2.0, 3.0]])
trans_conv(X, K)
tensor([[ 0., 0., 1.],
    [ 0., 4., 6.],
    [ 4., 12., 9.]])
X = np.array([[0.0, 1.0], [2.0, 3.0]])
K = np.array([[0.0, 1.0], [2.0, 3.0]])
trans_conv(X, K)
array([[ 0., 0., 1.],
    [ 0., 4., 6.],
    [ 4., 12., 9.]])

或者,当输入X和内核K都是四维张量时,我们可以使用高级 API 来获得相同的结果。

X, K = X.reshape(1, 1, 2, 2), K.reshape(1, 1, 2, 2)
tconv = nn.ConvTranspose2d(1, 1, kernel_size=2, bias=False)
tconv.weight.data = K
tconv(X)
tensor([[[[ 0., 0., 1.],
     [ 0., 4., 6.],
     [ 4., 12., 9.]]]], grad_fn=<ConvolutionBackward0>)
X, K = X.reshape(1, 1, 2, 2), K.reshape(1, 1, 2, 2)
tconv = nn.Conv2DTranspose(1, kernel_size=2)
tconv.initialize(init.Constant(K))
tconv(X)
array([[[[ 0., 0., 1.],
     [ 0., 4., 6.],
     [ 4., 12., 9.]]]])

14.10.2。填充、步幅和多通道

与填充应用于输入的常规卷积不同,它应用于转置卷积中的输出。例如,当指定高度和宽度任一侧的填充数为 1 时,第一行和最后一行和列将从转置卷积输出中移除。

tconv = nn.ConvTranspose2d(1, 1, kernel_size=2, padding=1, bias=False)
tconv.weight.data = K
tconv(X)
tensor([[[[4.]]]], grad_fn=<ConvolutionBackward0>)
tconv = nn.Conv2DTranspose(1, kernel_size=2, padding=1)
tconv.initialize(init.Constant(K))
tconv(X)
array([[[[4.]]]])

在转置卷积中,步长是为中间结果(即输出)指定的,而不是为输入指定的。


下载该资料的人也在下载 下载该资料的人还在阅读
更多 >

评论

查看更多

下载排行

本周

  1. 1山景DSP芯片AP8248A2数据手册
  2. 1.06 MB  |  532次下载  |  免费
  3. 2RK3399完整板原理图(支持平板,盒子VR)
  4. 3.28 MB  |  339次下载  |  免费
  5. 3TC358743XBG评估板参考手册
  6. 1.36 MB  |  330次下载  |  免费
  7. 4DFM软件使用教程
  8. 0.84 MB  |  295次下载  |  免费
  9. 5元宇宙深度解析—未来的未来-风口还是泡沫
  10. 6.40 MB  |  227次下载  |  免费
  11. 6迪文DGUS开发指南
  12. 31.67 MB  |  194次下载  |  免费
  13. 7元宇宙底层硬件系列报告
  14. 13.42 MB  |  182次下载  |  免费
  15. 8FP5207XR-G1中文应用手册
  16. 1.09 MB  |  178次下载  |  免费

本月

  1. 1OrCAD10.5下载OrCAD10.5中文版软件
  2. 0.00 MB  |  234315次下载  |  免费
  3. 2555集成威廉希尔官方网站 应用800例(新编版)
  4. 0.00 MB  |  33566次下载  |  免费
  5. 3接口威廉希尔官方网站 图大全
  6. 未知  |  30323次下载  |  免费
  7. 4开关电源设计实例指南
  8. 未知  |  21549次下载  |  免费
  9. 5电气工程师手册免费下载(新编第二版pdf电子书)
  10. 0.00 MB  |  15349次下载  |  免费
  11. 6数字威廉希尔官方网站 基础pdf(下载)
  12. 未知  |  13750次下载  |  免费
  13. 7电子制作实例集锦 下载
  14. 未知  |  8113次下载  |  免费
  15. 8《LED驱动威廉希尔官方网站 设计》 温德尔著
  16. 0.00 MB  |  6656次下载  |  免费

总榜

  1. 1matlab软件下载入口
  2. 未知  |  935054次下载  |  免费
  3. 2protel99se软件下载(可英文版转中文版)
  4. 78.1 MB  |  537798次下载  |  免费
  5. 3MATLAB 7.1 下载 (含软件介绍)
  6. 未知  |  420027次下载  |  免费
  7. 4OrCAD10.5下载OrCAD10.5中文版软件
  8. 0.00 MB  |  234315次下载  |  免费
  9. 5Altium DXP2002下载入口
  10. 未知  |  233046次下载  |  免费
  11. 6威廉希尔官方网站 仿真软件multisim 10.0免费下载
  12. 340992  |  191187次下载  |  免费
  13. 7十天学会AVR单片机与C语言视频教程 下载
  14. 158M  |  183279次下载  |  免费
  15. 8proe5.0野火版下载(中文版免费下载)
  16. 未知  |  138040次下载  |  免费