深度学习-模型调试经验总结

1、
这句话的意思是：期望张量的后端处理是在cpu上，但是实际是在cuda上。排查代码发现，数据还在cpu上，但是模型已经转到cuda上，所以可以通过把数据转到cuda上解决。
解决代码：

tensor.to("cuda")

2、
解决方法：减小batch size的大小或减小图片的尺寸
3、

原始的代码如下：

torch.save(model.module.state_dict(), os.path.join(model_prefix, '{}-model.pth'.format(epoch)))

原因：因为只有一块GPU，以上代码是多GPU使用的
解决方法：改为以下单GPU代码：

        meta = {}checkpoint = {"meta": meta, "state_dict": weights_to_cpu(model.state_dict())}if optimizer is not None:checkpoint["optimizer"] = optimizer.state_dict()torch.save(checkpoint, os.path.join(model_prefix, '{}-model.pth'.format(epoch)))