iis服务器助手广告
返回顶部
首页 > 资讯 > 后端开发 > Python >RuntimeError: result type Float can‘t be cast to the desired output type long int
  • 496
分享到

RuntimeError: result type Float can‘t be cast to the desired output type long int

深度学习pythonpytorch 2023-09-03 19:09:32 496人浏览 薄情痞子

Python 官方文档:入门教程 => 点击学习

摘要

在使用yolov5训练自定义数据集的运行过程中报错: **RuntimeError: result type Float can‘t be cast to the desired output typ

在使用yolov5训练自定义数据集的运行过程中报错:
**RuntimeError: result type Float can‘t be cast to the desired output type long int
**
在这里插入图片描述

1. 产生原因:

并不是自己构建的数据集有问题或者是下载更改后的代码有问题。
问题原因:
GitHub上clone 的yolov5-master版本的代码是可以直接运行的,因为官网上clone 的代码是最新版本调试好的代码.
附yolov5链接网址:yolov5 Github链接
但是如果是用yolov5的历史版本如:yolov5-1.0或yolov5-5.0等版本进行训练,由于yolov5-master版本和其他历史版本下的\utils\loss.py文件是不一样的,因此在yolov5进行版本更新后历史版本如yolov5-5.0/yolov5-6.1等在训练过程中会出现上述报错问题。

2. 解决办法:

需要修改 \utils\loss.py 文件中的部分内容

2.1第一处修改:

在 \utils\loss.py 文件中查找 for in range(self.nl) 找到如下内容:
原始内容:

 for in range(self.nl):            anchors = self.anchors[i]  #将这一行进行更改            gain[2:6] = torch.tensor(p[i].shape)[[3, 2, 3, 2]]  # xyxy gain

更改后的内容:

 for in range(self.nl):            anchors, shape = self.anchors[i], p[i].shape  # 改成这样            gain[2:6] = torch.tensor(p[i].shape)[[3, 2, 3, 2]]  # xyxy gain

2.2 第二处修改:

在 \utils\loss.py 文件中查找 indices.append 找到如下内容:
原始内容:

a = t[:, 6].long()  # anchor indicesindices.append((b, a, gj.clamp_(0, gain[3] - 1), gi.clamp_(0, gain[2] - 1)))  # image, anchor, grid indices  # 将这一行进行修改tbox.append(torch.cat((gxy - gij, gwh), 1))  # box

更改后的内容:

a = t[:, 6].long()  # anchor indicesindices.append((b, a, gj.clamp_(0, shape[2] - 1), gi.clamp_(0, shape[3] - 1)))  # image, anchor, grid  # 修改成这样tbox.append(torch.cat((gxy - gij, gwh), 1))  # box

更改后保存,然后重新运行train.py文件,成功解决!

3. 注意:

1 PyCharm 中快捷键【Ctrl】+【F】可以查找当前文件夹下的内容
3.2 注意在更改代码的过程中一定要注意不要更改缩进的字符数
3.3 修改完一定记得要保存!!

4. 参考链接:

来源地址:https://blog.csdn.net/weixin_44409833/article/details/127177584

--结束END--

本文标题: RuntimeError: result type Float can‘t be cast to the desired output type long int

本文链接: https://www.lsjlt.com/news/392749.html(转载时请注明来源链接)

有问题或投稿请发送至: 邮箱/279061341@qq.com    QQ/279061341

本篇文章演示代码以及资料文档资料下载

下载Word文档到电脑,方便收藏和打印~

下载Word文档
猜你喜欢
软考高级职称资格查询
编程网,编程工程师的家园,是目前国内优秀的开源技术社区之一,形成了由开源软件库、代码分享、资讯、协作翻译、讨论区和博客等几大频道内容,为IT开发者提供了一个发现、使用、并交流开源技术的平台。
  • 官方手机版

  • 微信公众号

  • 商务合作