0
  • 聊天消息
  • 系统消息
  • 评论与回复
登录后你可以
  • 下载海量资料
  • 学习在线课程
  • 观看技术视频
  • 写文章/发帖/加入社区
会员中心
创作中心

完善资料让更多小伙伴认识你,还能领取20积分哦,立即完善>

3天内不再提示

PyTorch中 torch.nn与torch.nn.functional的区别

jf_96884364 来源: 代码的路 作者: 代码的路 2023-01-11 16:47 次阅读

torch.nn

pytorch中文文档链接:torch.nn

__init__()函数里定义,定义的是一个类:

torch.nn.functional

pytorch中文文档链接:torch.nn.functional

__forward()__函数里定义,定义的是一个函数:

两者的区别

torch.nn中是一个定义的类,以class xx来定义的,可以提取变化的学习参数

torch.nn.functional是一个函数,由def function( )定义,是一个固定的运算公式。

深度学习中会有很多权重是在不断更新的,所以需要采用类的方式,以确保能在参数发生变化时仍能使用我们之前定好的运算步骤。因此如果模型有可学习的参数,应该使用nn.Module,否则两个没有区别。但是简单的计算不需要新建一个类来做,所以使用nn.functional定义函数就可以。

即:层内有variable的情况用nn定义,否则用nn.functional定义。

学习更多编程知识,请关注我的公众号:

[代码的路]

声明:本文内容及配图由入驻作者撰写或者入驻合作网站授权转载。文章观点仅代表作者本人,不代表电子发烧友网立场。文章及其配图仅供工程师学习之用,如有内容侵权或者其他违规问题,请联系本站处理。 举报投诉
  • 编程
    +关注

    关注

    88

    文章

    3615

    浏览量

    93710
  • 函数
    +关注

    关注

    3

    文章

    4329

    浏览量

    62588
  • python
    +关注

    关注

    56

    文章

    4795

    浏览量

    84663
  • 深度学习
    +关注

    关注

    73

    文章

    5503

    浏览量

    121142
  • pytorch
    +关注

    关注

    2

    文章

    808

    浏览量

    13219
收藏 人收藏

    评论

    相关推荐

    如何利用PyTorch API构建CNN?

    ]])# Defining the CNNimport torch.nn as nnimport torch.nn.functional as Fclass Net(nn.Module):  def
    发表于 07-16 18:13

    Canny边缘检测器的详细介绍以及Pytorch实现

    [:] = torch.from_numpy(sobel_2D)self.sobel_filter_y = nn.Conv2d(in_channels=1, out_channels=1, kernel_size
    发表于 11-04 11:59

    如何使用torch 2.0或更高版本创建图像?

    我需要使用 torch 2.0 或更高版本创建图像,使用nxp-github的演示我可以使用 Yocto Project BSP 6.1.1_1.0.0 Release 使用 torch
    发表于 05-16 06:26

    pytorch模型转换需要注意的事项有哪些?

    )。 如何得到JIT模型? 答:在已有PyTorch的Python模型(基类为torch.nn.Module)的情况下,通过torch.jit.trace得到;traced_model
    发表于 09-18 08:05

    松下NN-5508 NN-5558 NN-6508 NN-7

    松下NN-5508 NN-5558 NN-6508 NN-7508 NN-7558电脑式微波炉威廉希尔官方网站 图
    发表于 02-13 22:50 1215次阅读

    松下NN-5550 NN-5540电脑式微波炉威廉希尔官方网站 图

    松下NN-5550 NN-5540电脑式微波炉威廉希尔官方网站 图
    发表于 02-13 22:51 3274次阅读
    松下<b class='flag-5'>NN</b>-5550 <b class='flag-5'>NN</b>-5540电脑式微波炉威廉希尔官方网站
图

    松下NN-6808 NN-6858 NN-7808 NN-7

    松下NN-6808 NN-6858 NN-7808 NN-7858电脑式微波炉威廉希尔官方网站 图
    发表于 02-13 22:54 1340次阅读
    松下<b class='flag-5'>NN</b>-6808 <b class='flag-5'>NN</b>-6858 <b class='flag-5'>NN</b>-7808 <b class='flag-5'>NN</b>-7

    深度学习的19种损失函数你了解吗?带你详细了解

    损失函数通过torch.nn包实现基本用法 criterion = LossCriterion() #构造函数有自己的参数loss = criterion(x, y) #调用标准时也有参数19种损失函数
    的头像 发表于 09-14 10:34 1.1w次阅读

    深度学习Pytorch翻车记录:单卡改多卡踩坑记

    (baseline),自己的模型需要更久(2倍),非常不利于调参和发现问题,所以开始尝试使用多卡加速。 torch.nn.DataParallel == 简称 DP
    的头像 发表于 01-18 17:06 2866次阅读
    深度学习<b class='flag-5'>Pytorch</b>翻车记录:单卡改多卡踩坑记

    PyTorchnn.Conv2d与nn.ConvTranspose2d函数的用法

    PyTorchnn.Conv2d与nn.ConvTranspose2d函数的用法
    的头像 发表于 01-11 16:43 5069次阅读
    <b class='flag-5'>PyTorch</b><b class='flag-5'>中</b><b class='flag-5'>nn</b>.Conv2d与<b class='flag-5'>nn</b>.ConvTranspose2d函数的用法

    如何对图片进行卷积计算

    先导入torchtorch里的nn类,然后设置一个指定尺寸的随机像素值的图片,然后使用nn.conv2d函数进行卷积计算,然后建立全连接层,最后得到新的图片的尺寸
    的头像 发表于 05-22 16:08 756次阅读
    如何对图片进行卷积计算

    PyTorch教程-6.5. 自定义图层

    from torch import nn from torch.nn import functional as F from d2l import
    的头像 发表于 06-05 15:44 598次阅读

    PyTorch教程-8.6. 残差网络 (ResNet) 和 ResNeXt

    torch.nn import functional as F from d2l import torch as d2l from mxnet import init
    的头像 发表于 06-05 15:44 847次阅读
    <b class='flag-5'>PyTorch</b>教程-8.6. 残差网络 (ResNet) 和 ResNeXt

    pytorch如何构建网络模型

      首先导入几种方法用到的包:  import torch  import torch.nn.functional as F  from collections import OrderedDict  第一种方法  # Method 1 -----------------
    发表于 07-20 11:51 0次下载

    Google AI Edge Torch的特性详解

    我们很高兴地发布 Google AI Edge Torch,可将 PyTorch 编写的模型直接转换成 TFLite 格式 (.tflite),且有着优异的模型覆盖率和 CPU 性能。TFLite
    的头像 发表于 11-06 10:48 373次阅读
    Google AI Edge <b class='flag-5'>Torch</b>的特性详解