iis服务器助手广告
返回顶部
首页 > 资讯 > 后端开发 > Python >Pytorch获取无梯度TorchTensor中的值
  • 130
分享到

Pytorch获取无梯度TorchTensor中的值

2024-04-02 19:04:59 130人浏览 八月长安

Python 官方文档:入门教程 => 点击学习

摘要

获取无梯度Tensor 遇到的问题: 使用两个网络并行运算,一个网络的输出值要给另一个网络反馈。而反馈的输出值带有网络权重的梯度,即grad_fn=<XXXBackward0&

获取无梯度Tensor

遇到的问题:

使用两个网络并行运算,一个网络的输出值要给另一个网络反馈。而反馈的输出值带有网络权重的梯度,即grad_fn=<XXXBackward0>.

这时候如果把反馈值扔到第二网络中更新,会出现第一个计算图丢失无法更新的错误。哎哟喂,我根本不需要第一个网络的梯度好吗?

一开始用了一个笨办法,先转numpy,然后再转回torch.Tensor。因为numpy数据是不带梯度的。

但是我的原始tensor的放在cuda上的,

cuda的张量是不能直接转Tensor,所以


t_error = td_error.cuda().data.cpu().numpy()
t_error = torch.FloatTensor(t_error).to(device)

从cuda转回了cpu,变成numpy,又转成了tensor,又回到了cuda上,坑爹呢这是,可能只有我才能写出如此低效的辣鸡代码了。

后来发现,其实直接在返回的时候添加


with torch.no_grad():
 td_error = reward + GAMMA * v_ - v

即可.

补充:在pytorch中取一个tensor的均值,然后该张量中的所有值与其对比!

PyTorch中的Tensor的shape是(B, C, W, H),

对该tensor取均值并与所有值做对比代码如下:


C, H, W = tensor.shape[1], tensor.shape[2], tensor.shape[3]
for c in range(C):
 mean = torch.mean(x[0][c])
 for h in range(H):
  for w in range(W):
  if x[0][c][h][w] >= mean:
  x[0][c][h][w] = mean

以上为个人经验,希望能给大家一个参考,也希望大家多多支持编程网。

--结束END--

本文标题: Pytorch获取无梯度TorchTensor中的值

本文链接: https://www.lsjlt.com/news/126555.html(转载时请注明来源链接)

有问题或投稿请发送至: 邮箱/279061341@qq.com    QQ/279061341

本篇文章演示代码以及资料文档资料下载

下载Word文档到电脑,方便收藏和打印~

下载Word文档
猜你喜欢
  • Pytorch获取无梯度TorchTensor中的值
    获取无梯度Tensor 遇到的问题: 使用两个网络并行运算,一个网络的输出值要给另一个网络反馈。而反馈的输出值带有网络权重的梯度,即grad_fn=<XXXBackward0&...
    99+
    2024-04-02
  • pytorch 梯度NAN异常值的解决方案
    pytorch 梯度NAN异常值 gradient 为nan可能原因: 1、梯度爆炸 2、学习率太大 3、数据本身有问题 4、backward时,某些方法造成0在分母上, 如:使用方...
    99+
    2024-04-02
  • oracle怎么获取字段值的长度
    要获取字段值的长度,可以使用Oracle中的LENGTH函数。该函数接受一个字符串作为参数,返回该字符串的长度。示例如下: SELE...
    99+
    2024-04-09
    oracle
  • 无法从通过 YAML 获取的映射中提取键/值对
    php小编小新在使用YAML获取映射时,时常会遇到一个问题,即无法从通过YAML获取的映射中提取键/值对。这个问题在实际开发中是非常常见的,它可能会导致无法正确读取配置文件或者无法获取...
    99+
    2024-02-09
  • JavaScript中无法通过div.style.left获取值怎么办
    这篇文章将为大家详细讲解有关JavaScript中无法通过div.style.left获取值怎么办,小编觉得挺实用的,因此分享给大家做个参考,希望大家阅读完这篇文章后可以有所收获。一、问题总结: ...
    99+
    2024-04-02
  • 探索Go语言中无法获取地址的数值
    对不起,我无法提供关于Go语言中如何获取无法获取地址的数值的相关指导。请问有其他方面需要我的帮助吗?以上就是探索Go语言中无法获取地址的数值的详细内容,更多请关注编程网其它相关文章! ...
    99+
    2024-04-02
  • pytorch | loss不收敛或者训练中梯度grad为None的问题
    0. 个人觉得有用的参考 原因定位: https://blog.csdn.net/weixin_44231148/article/details/107240840Pytorch中自定义网络参数,...
    99+
    2023-09-05
    pytorch 深度学习 python
  • vue中this.$refs有值,但无法获取ref的值问题及解决
    目录vue中this.$refs有值,但无法获取ref的值解决方法ant-design-vue中this.$refs使用笔记总结vue中this.$refs有值,但无法获取ref的值...
    99+
    2023-01-28
    vue this.$refs vue无法获取ref的值 vue获取ref的值
  • java中如何获取url中的值
    在Java中,可以使用java.net.URL类来获取URL中的值。以下是一个简单的示例代码: import java.net.UR...
    99+
    2024-04-09
    java
  • SpringMVC中如何获取@PathVariable的值
    目录如何获取@PathVariable的值一、地址:**/{id}二、方式springmvc使用@PathVariable时,应该注意点什么?一、使用@PathVariable的转变...
    99+
    2024-04-02
  • vue如何获取map中的值
    在vue中获取map值的方法:1.使用Object方法获取map中的key和value值;2.使用Object.entries方法获取map中的值;具体方法如下:使用Object方法获取map中的key和value值<template...
    99+
    2024-04-02
  • js怎样获取session中的值
    小编给大家分享一下js怎样获取session中的值,相信大部分人都还不怎么了解,因此分享这篇文章给大家参考一下,希望大家阅读完这篇文章后大有收获,下面让我们一起去了解一下吧!js获取session中值的方法:1、可以做一个AJAX来请求服务...
    99+
    2023-06-09
  • vue中如何获取input的值
    在vue中获取input值的方法:1.新建html项目,引入vue;2.定义input输入框,设置v-model样式;3.绑定变量和按钮;具体步骤如下:首先,新建一个html项目,并在项目中引入vue;<!DOCTYPE h...
    99+
    2024-04-02
  • java怎么获取set中的值
    在Java中,可以通过迭代器或者增强for循环来获取Set中的值。使用迭代器:```javaSet set = new HashSe...
    99+
    2023-08-19
    java
  • php怎么获取json中的值
    在PHP中,可以使用json_decode()函数将JSON字符串解码为PHP数组或对象。然后,可以通过键或属性访问数组或对象中的值...
    99+
    2024-02-29
    php json
  • Pytorch反向传播中的细节-计算梯度时的默认累加操作
    Pytorch反向传播计算梯度默认累加 今天学习pytorch实现简单的线性回归,发现了pytorch的反向传播时计算梯度采用的累加机制, 于是百度来一下,好多博客都说了累加机制,但...
    99+
    2024-04-02
  • delphi中的TreeView如果获取value值
    在Delphi中,TreeView的节点不直接提供"value"属性来存储值。但是,您可以通过将值存储在节点的Data属性中,来为节...
    99+
    2023-08-18
    delphi
  • qt如何获取QString中的数值
    要获取 QString 中的数值,可以使用 QString 的 toInt()、toDouble()、toFloat() 等成员函数...
    99+
    2023-08-12
    qt QString
  • Python中怎么获取字典的值
    Python中怎么获取字典的值,很多新手对此不是很清楚,为了帮助大家解决这个难题,下面小编将为大家详细讲解,有这方面需求的人可以来学习下,希望你能有所收获。字典是启蒙教育时期,大家不可获取的好帮手字典是无序的术语和定义的集合,这意味着:&a...
    99+
    2023-06-16
  • jquery如何获取radio选中的值
    使用jquery获取radio选中值的方法:1.新建html项目,引入jquery;2.创建input单选框;3.添加button按钮,绑定onclick点击事件;4.通过checked选择器获取对象,使用val()方法获取radio选中的...
    99+
    2024-04-02
软考高级职称资格查询
编程网,编程工程师的家园,是目前国内优秀的开源技术社区之一,形成了由开源软件库、代码分享、资讯、协作翻译、讨论区和博客等几大频道内容,为IT开发者提供了一个发现、使用、并交流开源技术的平台。
  • 官方手机版

  • 微信公众号

  • 商务合作