深入探索Mamba模型架构与应用最新章节_王晓华著

2.3　环境搭建2：安装PyTorch 2.0

在完成Python运行环境调试后，接下来的重点是安装本书的主角—PyTorch 2.0。如果没有GPU显卡，完全可以从CPU版本的PyTorch开始深度学习之旅，但这并不是推荐的方式。与GPU版本的PyTorch相比，CPU版本的运行速度存在较大差距，很可能会影响深度学习进程。

PyTorch 2.0 CPU版本的安装命令如下：

    pip install numpy --pre torch==2.0.1 torchvision torchaudio --force-reinstall
--extra-index-url https://download.pytorch.org/whl/nightly/cpu

2.3.1　Nvidia 10/20/30/40系列显卡选择的GPU版本

由于40系列显卡的推出，市场上存在Nvidia 10/20/30/40系列显卡并存的情况。对于需要调用专用编译器的PyTorch，不同显卡需要安装不同的依赖计算包。表2-1总结了不同显卡的PyTorch版本以及CUDA和cuDNN的对应关系。

表2-1　Nvidia 10/20/30/40系列显卡的版本对比

这里主要是显卡运算库CUDA与cuDNN版本的搭配。在10系列版本的显卡上，建议优先使用PyTorch 2.0之前的版本。在20/30/40系列显卡上使用PyTorch时，可以参考官方网站（https://developer.nvidia.com/rdp/cudnn-archive），根据本机安装的CUDA版本选择相应的cuDNN版本。以下是一些具体的例子：

●　cuDNN v8.9.6 (November 1st, 2023), for CUDA 12.x

●　cuDNN v8.9.6 (November 1st, 2023), for CUDA 11.x

●　cuDNN v8.9.5 (October 27th, 2023), for CUDA 12.x

●　cuDNN v8.9.5 (October 27th, 2023), for CUDA 11.x

下面以PyTorch 2.0为例，演示CUDA和cuDNN的安装步骤。不同版本的安装过程类似，但需要特别注意软件版本之间的搭配。

2.3.2　PyTorch 2.0 GPU Nvidia运行库的安装

本节讲解PyTorch 2.0 GPU版本前置软件的安装。由于GPU版本的PyTorch需要使用NVIDA显卡，因此额外需要安装NVIDA提供的运行库。

我们以PyTorch 2.0为例。安装PyTorch 2.0最好的方法是根据官方网站提供的安装命令进行安装，具体参考官方网站文档（https://pytorch.org/get-started/previous-versions/）。根据页面内容，官网为Windows版本的PyTorch 2.0提供了几种安装模式，分别对应CUDA 11.7、CUDA 11.8和CPU only。以下是通过conda安装的命令：

    # CUDA 11.7
    conda install pytorch==2.0.1 torchvision==0.15.2 torchaudio==2.0.2
pytorch-cuda=11.7 -c pytorch -c nvidia
    # CUDA 11.8
    conda install pytorch==2.0.1 torchvision==0.15.2 torchaudio==2.0.2
pytorch-cuda=11.8 -c pytorch -c nvidia
    # CPU Only
    conda install pytorch==2.0.1 torchvision==0.15.2 torchaudio==2.0.2 cpuonly -c
pytorch

下面以CUDA 11.8+cuDNN 8.9为例讲解安装步骤：

（1）首先是CUDA的安装。在百度搜索“CUDA 11.8 download”，进入官方网站下载页面，选择合适的操作系统安装方式（推荐使用exe(local)本地化安装方式），如图2-27所示。