1. 背景介绍

最近 
  
  
  
  
  
  
  ，笔者在跑代码时
  
  
  
  
  
  
  
 ，出现了如下问题               。翻译过来
 


 


 


 


 


 


 


，大意是目前所使用的RTX 3090的显卡的算力是8.6 
 
 
 
 
 
 
 ，而当前Pytorch所依赖的CUDA版本支持的算力只有3.7 
  
  
  
  
  
  
  、5.0
  
  
  
  
  
  
  
 、6.0
 


 


 


 


 


 


 


、6.1 
 
 
 
 
 
 
 、7.0
   
   
   
   
   
   
   
 、7.5 
  
 
  
 
  
 
  
 
  
 
  
 
  
 
。

UserWarning: NVIDIA GeForce RTX 3090 with CUDA capability sm_86 is not compatible with the current PyTorch installation.The current PyTorch install supports CUDA capabilities sm_37 sm_50 sm_60 sm_61 sm_70 sm_75 compute_37.

经查询得知
   
   
   
   
   
   
   
 ，RTX 3090的显卡一般要安装11以上的CUDA版本及对应的Pytorch版本














。

2. 解决方案

升级CUDA版本
 

 

 

 

 

 

 

，然后安装与CUDA版本相对应的Pytorch 
  
  
  
  
  
  
  。

第一步 

 

 

 

 

 

 

 ，笔者首先安装了11.6版本的CUDA               ，具体安装步骤

 
 

 
 

 
 

 
 

 
 

 
 

 
 

，可以点这里 
  
  
  
  
  
  
  
。

第二步













，进Pytorch官网                       ，查询与CUDA版本相对应的Pytorch安装命令
 
 
 
 
 
 
 
 
 
 
 
 
 
 
，如下：

第三步





















，进入到自己的虚拟环境中               ，执行上述命令
  
 
  
 
  
 
  
 
  
 
  
 
  
 
 ，如下














，这个过程比较漫长 
  
  
  
  
  
  
  ，不过等等应该是可以成功的

 


 


 


 


 


 


 

。

完成上述三步
  
  
  
  
  
  
  
 ，再跑代码就不会出现之前的问题了 
 
 
 
 
 
 
 。

3. 相关资料

虽然
 


 


 


 


 


 


 


，笔者参考网上的一些教程解决了问题 
 
 
 
 
 
 
 ，但是在深入查阅资料的过程中
   
   
   
   
   
   
   
 ，发现对CUDA底层并不是很清楚
 

 

 

 

 

 

 

，如果下面说的不对 

 

 

 

 

 

 

 ，希望大家指正！下面这些都是：虽然我没理解               ，但多少对我还是有所帮助的一些文档

 
 

 
 

 
 

 
 

 
 

 
 

 
 

，我在阅读的同时顺便罗列在这里













，以便大家查阅                       ，及我日后的回顾 
   
   
   
   
   
   
   
。

适用于 CUDA 应用程序的 NVIDIA Ampere GPU 架构兼容性指南：https://docs.nvidia.com/cuda/ampere-compatibility-guide/
 

 

 

 

 

 

 
。大致意思为：显卡的算力要高于CUDA的算力
 
 
 
 
 
 
 
 
 
 
 
 
 
 
，并且在一般情况下





















，两者的算力应该在同一个版本下
 

 

 

 

 

 

 

 。例如               ，RTX 2080 Ti显卡的算力为7.5
  
 
  
 
  
 
  
 
  
 
  
 
  
 
 ，那么在装CUDA时














，应该装算力为7.X的CUDA 
  
  
  
  
  
  
  ，且7.5≥7.X              。以笔者的经验来看
  
  
  
  
  
  
  
 ，RTX 2080 Ti的显卡装CUDA Toolkit 10.x就行
 


 


 


 


 


 


 


，RTX 3090的显卡装CUDA 11系列的就可以 

 
 

 
 

 
 

 
 

 
 

 
 

 
 
。

显卡的编译过程：https://docs.nvidia.com/cuda/cuda-compiler-driver-nvcc/index.html#virtual-architectures

CUDA架构及对应编译参数：https://www.cnblogs.com/phillee/p/12049208.html

nvcc的code
 

 

 

 

 

 

 

、arch 

 

 

 

 

 

 

 、gencode选项：https://zhengqm.github.io/blog/2018/12/07/cuda-nvcc-tips.html