二、Windows 系统安装

1. 安装 CUDA Toolkit

1. 下载 CUDA

   • 访问 CUDA Toolkit 官网，选择与深度学习框架兼容的版本（如 CUDA 12.2）。
   • 下载 Windows 版 exe [local] 安装包。

2. 安装 CUDA

   • 双击运行安装包，按默认路径安装（建议路径不含空格，如 C:\CUDA\）。
   • 安装时取消勾选“NVIDIA GeForce Experience”（避免驱动冲突）。

3. 配置环境变量

   • 安装完成后，系统会自动添加以下环境变量：

     CUDA_PATH = C:\Program Files\NVIDIA GPU Computing Toolkit\CUDA\v12.2
     CUDA_PATH_V12_2 = C:\Program Files\NVIDIA GPU Computing Toolkit\CUDA\v12.2

   • 手动检查是否添加至 Path：

     %CUDA_PATH%\bin
     %CUDA_PATH%\libnvvp

4. 验证 CUDA

   • 打开命令提示符（CMD）：

     nvcc -V  # 显示 CUDA 编译器版本
     nvidia-smi  # 查看显卡驱动和 CUDA 版本（二者可能不一致，以 nvcc 为准）

---

2. 安装 cuDNN

1. 下载 cuDNN

   • 访问 cuDNN 官网（需登录 NVIDIA 账号）。
   • 选择与 CUDA 版本匹配的 cuDNN（如 CUDA 12.x 对应 cuDNN 8.9.x）。

2. 手动安装 cuDNN

   • 解压下载的 cuDNN 压缩包（如 cudnn-windows-x86_64-8.9.6.50_cuda12-archive.zip）。
   • 将以下文件复制到 CUDA 安装目录：

     # 复制到 CUDA 的根目录（如 C:\Program Files\NVIDIA GPU Computing Toolkit\CUDA\v12.2）
     bin\cudnn*.dll        → CUDA\v12.2\bin
     include\cudnn*.h      → CUDA\v12.2\include
     lib\cudnn*.lib        → CUDA\v12.2\lib\x64

3. 验证 cuDNN

   • 通过深度学习框架测试（如 PyTorch）：

     import torch
     print(torch.cuda.is_available())  # 应返回 True
     print(torch.backends.cudnn.version())  # 显示 cuDNN 版本

---

三、Linux 系统安装（Ubuntu 为例）

1. 安装 CUDA Toolkit

1. 下载 CUDA

   • 访问 CUDA Toolkit 官网，选择 deb [local] 或 runfile [local]（推荐 deb 方式）。

2. 安装 CUDA（以 CUDA 12.2 为例）

   wget https://developer.download.nvidia.com/compute/cuda/repos/ubuntu2204/x86_64/cuda-ubuntu2204.pin
   sudo mv cuda-ubuntu2204.pin /etc/apt/preferences.d/cuda-repository-pin-600
   wget https://developer.download.nvidia.com/compute/cuda/12.2.2/local_installers/cuda-repo-ubuntu2204-12-2-local_12.2.2-535.104.05-1_amd64.deb
   sudo dpkg -i cuda-repo-ubuntu2204-12-2-local_12.2.2-535.104.05-1_amd64.deb
   sudo cp /var/cuda-repo-ubuntu2204-12-2-local/cuda-*-keyring.gpg /usr/share/keyrings/
   sudo apt update
   sudo apt install cuda

3. 配置环境变量

   # 在 ~/.bashrc 或 ~/.zshrc 中添加：
   export PATH=/usr/local/cuda/bin:$PATH
   export LD_LIBRARY_PATH=/usr/local/cuda/lib64:$LD_LIBRARY_PATH

   执行 source ~/.bashrc 生效。

4. 验证 CUDA

   nvcc -V  # 查看 CUDA 版本
   cd /usr/local/cuda/samples/1_Utilities/deviceQuery
   sudo make && ./deviceQuery  # 显示 "Result = PASS" 即成功

---

2. 安装 cuDNN

1. 下载 cuDNN

   • 访问 cuDNN 官网，选择与 CUDA 兼容的版本。

2. 安装 cuDNN（以 Tar 包为例）

   tar -xzvf cudnn-linux-x86_64-8.9.6.50_cuda12-archive.tar.xz
   sudo cp cudnn-*-archive/include/cudnn*.h /usr/local/cuda/include/
   sudo cp -P cudnn-*-archive/lib/libcudnn* /usr/local/cuda/lib64/
   sudo chmod a+r /usr/local/cuda/include/cudnn*.h /usr/local/cuda/lib64/libcudnn*

3. 验证 cuDNN

   cat /usr/local/cuda/include/cudnn_version.h | grep CUDNN_MAJOR -A 2  # 查看版本

---

四、常见问题

Windows

1. CUDA 安装失败

   • 关闭杀毒软件和后台程序，避免权限冲突。
   • 确保安装路径无空格（如 C:\CUDA\）。

2. 环境变量未生效

   • 手动添加 C:\Program Files\NVIDIA GPU Computing Toolkit\CUDA\v12.2\bin 到 Path。

Linux

1. 驱动冲突

   • 使用 sudo apt purge nvidia-* 彻底卸载旧驱动，重新安装。

2. 权限问题

   sudo chmod 666 /dev/nvidia*  # 允许用户访问 GPU 设备

---

完成！ 现在可以在 Windows 和 Linux 系统中使用 CUDA 和 cuDNN 加速深度学习任务。

安装nvidia驱动 https://www.nvidia.cn/drivers/details/235778/安装cuda https://developer.nvidia.com/cuda-toolkit-archive安装cudnn https://developer.nvidia.com/rdp/cudnn-archive安装 pytorch https://pytorch.org/get-started/locally/

注意事项

步骤 https://docs.nvidia.com/deeplearning/cudnn/installation/latest/windows.html常见问题 https://blog.csdn.net/m0_55776553/article/details/134100881