【人工智能】本地运行开源项目MMSegmentation引发的问题

❌AssertionError: Torch not compiled with CUDA enabled

问题描述

python demo/image_demo.py demo/demo.png configs/pspnet/pspnet_r50-d8_4xb2-40k_cityscapes-512x1024.py pspnet_r50-d8_512x1024_40k_cityscapes_20200605_003338-2966598c.pth --device cuda:0 --out-fil
e result.jpg
1
2

当我使用上面命令来验证推理 demo 时，发生了 AssertionError: Torch not compiled with CUDA enabled 错误。

问题分析

这个错误是因为您在尝试使用PyTorch的CUDA功能时，但是PyTorch没有被编译为启用CUDA。为了解决这个问题，您需要重新编译PyTorch，以确保它包含启用CUDA的支持。

解决方案

安装了适当的CUDA工具包和驱动程序。

Tip：不要急着下载，把这篇文章看完再去下载。

官方安装教程问题地址：https://docs.nvidia.com/cuda/archive/11.6.0/cuda-installation-guide-microsoft-windows/index.html。

To use CUDA on your system, you will need the following installed:

• A CUDA-capable GPU
• A supported version of Microsoft Windows
• A supported version of Microsoft Visual Studio
• The NVIDIA CUDA Toolkit (available at http://developer.nvidia.com/cuda-downloads)

1. 确定显卡支持的CUDA版本

   使用命令 nvidia-smi.exe 查看显卡支持的最高CUDA版本。

   PS C:\Users\19095> nvidia-smi.exe
   Sun May  7 10:00:36 2023
   +-----------------------------------------------------------------------------+
   | NVIDIA-SMI 462.30       Driver Version: 462.30       CUDA Version: 11.2     |
   |-------------------------------+----------------------+----------------------+
   | GPU  Name            TCC/WDDM | Bus-Id        Disp.A | Volatile Uncorr. ECC |
   | Fan  Temp  Perf  Pwr:Usage/Cap|         Memory-Usage | GPU-Util  Compute M. |
   |                               |                      |               MIG M. |
   |===============================+======================+======================|
   |   0  GeForce GTX 1650   WDDM  | 00000000:01:00.0 Off |                  N/A |
   | N/A   46C    P8     2W /  N/A |    255MiB /  4096MiB |      1%      Default |
   |                               |                      |                  N/A |
   +-------------------------------+----------------------+----------------------+
   1
   2
   3
   4
   5
   6
   7
   8
   9
   10
   11
   12
   13

2. 下载和安装 NVIDIA CUDA Toolkit
   NVIDIA CUDA Toolkit 下载地址：https://developer.nvidia.com/cuda-downloads
   
   

3. 配置环境并检查运行
   使用 nvcc -V 来检查是否安装成功，如果使用不了，你需要去配置一下环境，这个步骤太简单了，大家自行摸索吧。

   PS C:\Users\19095> nvcc -V
   nvcc: NVIDIA (R) Cuda compiler driver
   Copyright (c) 2005-2023 NVIDIA Corporation
   Built on Mon_Apr__3_17:36:15_Pacific_Daylight_Time_2023
   Cuda compilation tools, release 12.1, V12.1.105
   Build cuda_12.1.r12.1/compiler.32688072_0
   1
   2
   3
   4
   5
   6

下载好了并且成功安装了 CUDA ，但是运行项目发现还是显示没有安装成功。

原来是驱动版本要求高了，只有重新下载另外一个了。

然后我信心满满地以为可以了，运行项目后，我得天呀，它有报错。原来是CUDA 11.2没有对应的PyTorch 版本需要自己去编译，开什么玩笑，又白搞了。

于是我根据查的资料，重新下了一个 CUDA 11.1 版本的，这也就可以使用 PyTorch。需要注意的是，必须等 CUDA 11.1 安装后了，才能去安装PyTorch。

PyTorch 下载地址：https://pytorch.org/get-started/previous-versions/

总结

CUDA的版本不仅和系统有关，还需要注意PyTorch是否有对应的版本，如果没有你就可以通过降低CUDA的版本来适应PyTorch，从而保证自己可以不要去编译，并且必须要等 CUDA 安装后，才能安装 PyTorch，不然找不到 PyTorch 的CUDA编译版本。

参考文献

1. CUDA Installation Guide for Microsoft Windows：https://docs.nvidia.com/cuda/archive/11.6.0/cuda-installation-guide-microsoft-windows/index.html
2. CUDA安装及环境配置——最新详细版：https://blog.csdn.net/chen565884393/article/details/127905428
3. CUDA driver version is insufficient for CUDA runtime version：https://blog.csdn.net/qq_25033587/article/details/90301671
4. PyTorch GPU install with 11.2 CUDA：https://stackoverflow.com/questions/70396187/pytorch-gpu-install-with-11-2-cuda