1. 背景介绍

最近 
  
  
  
  
  
  
 ，笔者在跑代码时
  
  
  
  
  
  
 ，出现了如下问题             。翻译过来
 


 


 


 


 


 


 
，大意是目前所使用的RTX 3090的显卡的算力是8.6 
 
 
 
 
 
 
，而当前Pytorch所依赖的CUDA版本支持的算力只有3.7 
  
  
  
  
  
  
 、5.0
  
  
  
  
  
  
 、6.0
 


 


 


 


 


 


 
、6.1 
 
 
 
 
 
 
、7.0
   
   
   
   
   
   
  、7.5 
  
 
  
 
  
 
  
 
  
 
  
 
  。

UserWarning: NVIDIA GeForce RTX 3090 with CUDA capability sm_86 is not compatible with the current PyTorch installation.The current PyTorch install supports CUDA capabilities sm_37 sm_50 sm_60 sm_61 sm_70 sm_75 compute_37.

经查询得知
   
   
   
   
   
   
  ，RTX 3090的显卡一般要安装11以上的CUDA版本及对应的Pytorch版本













。

2. 解决方案

升级CUDA版本
 

 

 

 

 

 

 
，然后安装与CUDA版本相对应的Pytorch 
  
  
  
  
  
  
。

第一步 

 

 

 

 

 

 
，笔者首先安装了11.6版本的CUDA              ，具体安装步骤

 
 

 
 

 
 

 
 

 
 

 
 

 
，可以点这里 
  
  
  
  
  
  
 。

第二步












，进Pytorch官网                     ，查询与CUDA版本相对应的Pytorch安装命令
 
 
 
 
 
 
 
 
 
 
 
 
 
，如下：

第三步



















，进入到自己的虚拟环境中              ，执行上述命令
  
 
  
 
  
 
  
 
  
 
  
 
  
，如下












，这个过程比较漫长 
  
  
  
  
  
  
 ，不过等等应该是可以成功的

 


 


 


 


 


 


 。

完成上述三步
  
  
  
  
  
  
 ，再跑代码就不会出现之前的问题了 
 
 
 
 
 
 
。

3. 相关资料

虽然
 


 


 


 


 


 


 
，笔者参考网上的一些教程解决了问题 
 
 
 
 
 
 
，但是在深入查阅资料的过程中
   
   
   
   
   
   
  ，发现对CUDA底层并不是很清楚
 

 

 

 

 

 

 
，如果下面说的不对 

 

 

 

 

 

 
，希望大家指正！下面这些都是：虽然我没理解              ，但多少对我还是有所帮助的一些文档

 
 

 
 

 
 

 
 

 
 

 
 

 
，我在阅读的同时顺便罗列在这里












，以便大家查阅                     ，及我日后的回顾 
   
   
   
   
   
   
 。

适用于 CUDA 应用程序的 NVIDIA Ampere GPU 架构兼容性指南：https://docs.nvidia.com/cuda/ampere-compatibility-guide/
 

 

 

 

 

 

 。大致意思为：显卡的算力要高于CUDA的算力
 
 
 
 
 
 
 
 
 
 
 
 
 
，并且在一般情况下



















，两者的算力应该在同一个版本下
 

 

 

 

 

 

 
。例如              ，RTX 2080 Ti显卡的算力为7.5
  
 
  
 
  
 
  
 
  
 
  
 
  
，那么在装CUDA时












，应该装算力为7.X的CUDA 
  
  
  
  
  
  
 ，且7.5≥7.X             。以笔者的经验来看
  
  
  
  
  
  
 ，RTX 2080 Ti的显卡装CUDA Toolkit 10.x就行
 


 


 


 


 


 


 
，RTX 3090的显卡装CUDA 11系列的就可以 

 
 

 
 

 
 

 
 

 
 

 
 

 。

显卡的编译过程：https://docs.nvidia.com/cuda/cuda-compiler-driver-nvcc/index.html#virtual-architectures

CUDA架构及对应编译参数：https://www.cnblogs.com/phillee/p/12049208.html

nvcc的code
 

 

 

 

 

 

 
、arch 

 

 

 

 

 

 
、gencode选项：https://zhengqm.github.io/blog/2018/12/07/cuda-nvcc-tips.html