인공지능 공부

pytorch GPU 지원 설치하기

DualQuaternion 2025. 1. 13. 11:36

좋은 GPU를 가지고서 CPU 버전의 pytorch를 돌리면 매우 안타까운 상황이 연출된다.

 

오늘은 pytorch가 GPU를 지원하도록 잘 설치하는 방법을 다뤄본다.

 

여기에는 세가지 변수가 있는데,

 

 1. 파이토치 지원 조합

 2. NVIDIA 드라이버 

 3. CUDA 버전

 

을 확인해줘야 한다.

 

1. 우선 파이토치 지원 조합부터 알아본다.

 

Start Locally | PyTorch

 

Start Locally

Start Locally

pytorch.org

 

현재시간 기준, 2.5.1 버전의 경우 cuda 12.4까지 지원을 하는걸 알 수 있다. 하지만 12.4의 경우 cuda 설치에 이슈가 있었어서 11.8 버전으로 진행해본다. 

 

2. 다음으로 cuda 설치를 진행해보자.

 

혹시 GPU 드라이버가 설치되어있지 않으면 설치해주어야 한다.

nvidia 게이머 레디 드라이버와 스튜디오 드라이버 차이점

 

nvidia 게이머 레디 드라이버와 스튜디오 드라이버 차이점

새 PC를 세팅 중인데, NVIDIA 앱에서 드라이버를 고르라고 한다. 이게 무슨소리지? 하고 보니 게이머 레디 드라이버와 크리에이터를 위한 스튜디오 드라이버라는게 있다고 한다. 둘다 설명을 읽

talesoff.tistory.com

위 글도 참고....

 

 

CUDA Toolkit Archive | NVIDIA Developer

 

CUDA Toolkit Archive

Previous releases of the CUDA Toolkit, GPU Computing SDK, documentation and developer drivers can be found using the links below. Please select the release you want from the list below, and be sure to check www.nvidia.com/drivers for more recent production

developer.nvidia.com

쿠다 툴킷 아카이브에 가서

 

11.8 버전을 받아주고 설치해주었다.

 

설치 완료!

CUDNN 설치하기 feat 환경변수, PATH

 

CUDNN 설치하기 feat 환경변수, PATH

cudnn을 설치해주자. 우선 CUDA가 설치 되어있어야 한다.  cuDNN Archive | NVIDIA Developer cuDNN ArchiveDownload releases from the GPU-accelerated primitive library for deep neural networks.developer.nvidia.comcuda 버전에 맞는 녀석

talesoff.tistory.com

 

CUDNN도 위 링크를 보고 설치하고 오자.

 

 

 

자 이제 파이토치를 설치해보자

 

파이토치 홈페이지 접속해서 중간 아래쯤에 보면 이렇게 설치할 수 있는 커맨드를 안내해준다.

 

위 환경과 같이 세팅해서 커멘드를 확보했다. 

pip3 install torch torchvision torchaudio --index-url https://download.pytorch.org/whl/cu118

 

 

나는 miniconda로 만든 가상환경 안에서 설치하는 중이기 때문에, 환경을 세팅한 후 진행해주었다.

 

 

 import torch

print(torch.cuda.is_available())

 

두 명령어로 제대로 세팅되어있는지 확인까지 완료했다.

 

이상으로 pytorch GPU 지원 설치하기 포스팅을 마친다.