[DATA/기타] Windows에서 CUDA, cuDNN 설치하기

NVIDIA 드라이버 설치

NVIDIA 드라이버 다운로드 페이지에서 GPU에 맞는 드라이버를 다운로드하고, 설치해줍니다.

GPU 모델명 및 드라이버 버전 확인

명령 프롬프트를 열고 nvidia-smi를 입력해줍니다.

위에서 알 수 있는 정보는 아래와 같습니다.

• 제 그래픽카드는 RTX 3060입니다.
• 설치된 드라이버 버전은 560.94입니다.
• 이 드라이버는 CUDA 12.6을 지원합니다.

내 컴퓨터에 맞는 CUDA 버전 찾기

위에서 CUDA 12.6버전을 지원함을 알 수 있었지만, 올바른 CUDA Toolkit 버전을 한 번 더 확인하기 위해서 CUDA 호환성 페이지에서 드라이버 버전 별로 지원하는 CUDA 버전을 확인합니다.

CUDA Toolkit 다운로드

CUDA Toolkit Archive에서 알맞은 버전의 CUDA Toolkit을 다운로드하고, 설치합니다.

요즘은 환경변수까지 다 설정해주나 봅니다. 별다른 설정 없이 환경변수가 다 설정돼있는 걸 확인했습니다.

이제 nvcc --version 명령어를 실행해주면 아래와 같이 CUDA가 잘 설치된 걸 확인할 수 있습니다.

cuDNN

cuDNN은 CUDA Toolkit 위에서 동작하는 GPU 가속화 라이브러리입니다. 딥러닝 프레임워크에서 신경망 계산을 최적화하는 데 사용됩니다. cuDNN은 TensorFlow, PyTorch, Caffe와 같은 딥러닝 프레임워크에서 활용되어, GPU를 이용한 신경망의 학습 및 추론 속도를 크게 향상시킵니다.

cuDNN 버전 확인

NVIDIA cudnn Support Matrix에서 설치한 CUDA에 알맞은 알맞은 cuDNN 버전을 확인합니다.

cuDNN 설치

cuDNN Archive에서 해당 버전을 다운로드하고, 설치합니다. 환경변수들도 알아서 잘 설정돼있을 것입니다.