运行
python test.py ctdet --dataset coco --exp_id coco_dla --load_model /root/CenterNet/exp/ctdet/coco_dla/model_last.pth --gpus 0 --test_scales 1
报错下面:
RuntimeError: CUDA error: out of memory
明明显存是够用的
解决办法:
找到自己虚拟环境的/root/miniconda3/lib/python3.6/site-packages/torch/nn/functional.py文件
在文件开头添加一句:
torch.backends.cudnn.enabled = False
在此运行:
CUDA_VISIBLE_DEVICES=0 python test.py ctdet --dataset coco --exp_id coco_dla --load_model /root/CenterNet/exp/ctdet/coco_dla/model_last.pth