- 從零開始大模型開發與微調:基于PyTorch與ChatGLM
- 王曉華
- 248字
- 2024-12-31 17:37:12
2.2.1 Nvidia 10/20/30/40系列顯卡選擇的GPU版本
由于40系顯卡的推出,目前市場上會同時有Nvidia10/20/30/40系列顯卡并存的情況。對于需要調用專用編譯器的PyTorch來說,不同的顯卡需要安裝不同的依賴計算包,作者在此總結了不同顯卡的PyTorch版本以及CUDA和cuDNN的對應關系,如表2-1所示。
表2-1 10/20/30/40系列顯卡的版本對比

注意:這里主要是顯卡運算庫CUDA與cuDNN的區別,當在20/30/40系列顯卡上使用PyTorch時,可以安裝11.6版本以上以及cuDNN 8.1版本以上的包,而在10系列版本的顯卡上,建議優先使用2.0版本以前的PyTorch。
下面以CUDA 11.7+cuDNN 8.2.0組合為例,演示完整的PyTorch 2.0 GPU Nvidia運行庫的安裝步驟,其他不同版本CUDA+cuDNN組合的安裝過程基本一致。