返回顶部
首页 > 资讯 > 服务器 >RuntimeError: result type Float can‘t be cast to the desired output type __int64报错解决方法
  • 543
分享到

RuntimeError: result type Float can‘t be cast to the desired output type __int64报错解决方法

深度学习计算机视觉目标检测 2023-09-07 05:09:10 543人浏览 八月长安
摘要

  小白刚开始学习YOLOv5,跟随老哥的步骤走了一遍目标检测--手把手教你搭建自己的YOLOv5目标检测平台   最后训练最后一步出现RuntimeError: result type Float can‘t be cast to the

  小白刚开始学习YOLOv5,跟随老哥的步骤走了一遍目标检测--手把手教你搭建自己的YOLOv5目标检测平台

  最后训练最后一步出现RuntimeError: result type Float can‘t be cast to the desired output type __int64报错

解决方法:找到5.0版报错的loss.py中最后那段for函数,将其整体替换为yolov5-master版中loss.py最后一段for函数即可正常运行

        for i in range(self.nl):            anchors, shape = self.anchors[i], p[i].shape            gain[2:6] = torch.tensor(shape)[[3, 2, 3, 2]]  # xyxy gain            # Match targets to anchors            t = targets * gain  # shape(3,n,7)            if nt:                # Matches                r = t[..., 4:6] / anchors[:, None]  # wh ratio                j = torch.max(r, 1 / r).max(2)[0] < self.hyp['anchor_t']  # compare                # j = wh_iou(anchors, t[:, 4:6]) > model.hyp['iou_t']  # iou(3,n)=wh_iou(anchors(3,2), gwh(n,2))                t = t[j]  # filter                # Offsets                gxy = t[:, 2:4]  # grid xy                gxi = gain[[2, 3]] - gxy  # inverse                j, k = ((gxy % 1 < g) & (gxy > 1)).T                l, m = ((gxi % 1 < g) & (gxi > 1)).T                j = torch.stack((torch.ones_like(j), j, k, l, m))                t = t.repeat((5, 1, 1))[j]                offsets = (torch.zeros_like(gxy)[None] + off[:, None])[j]            else:                t = targets[0]                offsets = 0            # Define            bc, gxy, gwh, a = t.chunk(4, 1)  # (image, class), grid xy, grid wh, anchors            a, (b, c) = a.long().view(-1), bc.long().T  # anchors, image, class            gij = (gxy - offsets).long()            gi, gj = gij.T  # grid indices            # Append            indices.append((b, a, gj.clamp_(0, shape[2] - 1), gi.clamp_(0, shape[3] - 1)))  # image, anchor, grid            tbox.append(torch.cat((gxy - gij, gwh), 1))  # box            anch.append(anchors[a])  # anchors            tcls.append(c)  # class

来源地址:https://blog.csdn.net/weixin_54713879/article/details/125612388

--结束END--

本文标题: RuntimeError: result type Float can‘t be cast to the desired output type __int64报错解决方法

本文链接: https://lsjlt.com/news/397666.html(转载时请注明来源链接)

有问题或投稿请发送至: 邮箱/279061341@qq.com    QQ/279061341

猜你喜欢
软考高级职称资格查询
编程网,编程工程师的家园,是目前国内优秀的开源技术社区之一,形成了由开源软件库、代码分享、资讯、协作翻译、讨论区和博客等几大频道内容,为IT开发者提供了一个发现、使用、并交流开源技术的平台。
  • 官方手机版

  • 微信公众号

  • 商务合作