返回顶部
首页 > 资讯 > 后端开发 > Python >解决RuntimeError: one of the variables needed for gradient computation has been modified by an inplace
  • 109
分享到

解决RuntimeError: one of the variables needed for gradient computation has been modified by an inplace

深度学习python人工智能 2023-10-26 07:10:29 109人浏览 泡泡鱼

Python 官方文档:入门教程 => 点击学习

摘要

错误:RuntimeError: one of the variables needed for gradient computation has been modified by an inplac

错误:RuntimeError: one of the variables needed for gradient computation has been modified by an inplace operation: [torch.FloatTensor [6,128,60,80]], which is output 0 of SoftmaxBackward, is at version 1; expected version 0 instead. Hint: enable anomaly detection to find the operation that failed to compute its gradient, with torch.autograd.set_detect_anomaly(True).
变量的计算中包含了inplace操作,在SoftmaxBackward出。

报错位置:损失反向传递时,猜测可能在计算梯度时发生错误。错误原因可能是inplace的原因。
在这里插入图片描述
方法1:将inplce=True的地方全部改为False,主要是在ReLU处,经过修改发现对我没有用。

方法2:将所有的a+=b的地方改为a=a+b,对我没有用。

方法3:将代码中nn.Sigmoid函数删除掉,用其他的归一化方法。解决问题。

方法4:参考别的大佬文章,都是sigmoid函数处出错,大佬链接因为我的代码已经运行起来了,就不想暂停,下次再跑试验一下这个方法。
在这里插入图片描述

来源地址:https://blog.csdn.net/qq_43733107/article/details/128553473

--结束END--

本文标题: 解决RuntimeError: one of the variables needed for gradient computation has been modified by an inplace

本文链接: https://www.lsjlt.com/news/453927.html(转载时请注明来源链接)

有问题或投稿请发送至: 邮箱/279061341@qq.com    QQ/279061341

猜你喜欢
软考高级职称资格查询
编程网,编程工程师的家园,是目前国内优秀的开源技术社区之一,形成了由开源软件库、代码分享、资讯、协作翻译、讨论区和博客等几大频道内容,为IT开发者提供了一个发现、使用、并交流开源技术的平台。
  • 官方手机版

  • 微信公众号

  • 商务合作