Install Nvidia graphic driver, Cuda Toolkit & Cudnn in Ubuntu 22.04

먼저 NVIDIA Graphic driver 를 설치해야 한다.

 

ubuntu-drivers devices

위 명령어를 터미널에 입력하면 driver 목록이 쭉 나온다. 여기서 뒤에 recommended 라고 붙은 driver 가 있을 것이다.

ex) driver :nvidia-driver-525-distro non-free recommended

 

이러면 이 드라이버를 설치하면 된다. 명령어는 아래와 같다. 꼭 해당하는 버전을 확인하고 설치하기 바란다.

 

sudo apt install nvidia-driver-525

설치 후 재부팅을 한다. 

재부팅 후 프로그램들이 있는 메뉴에서 소프트웨어&업데이트를 찾아서 클릭한다.

 

이후 추가 드라이버 부분을 클릭하고 기다리면 아래 독점 드라이버 1개를 사용하고 있습니다 가 뜰 것이다. 이러면 드라이버는 정상적으로 설치 완료 된 것이다.

 

또한 터미널에 아래와 같은 명령어를 치고 Driver Version 을 확인한다.

nvidia-smi

 

이제 CUDA 를 설치해야 한다.

아래 링크로 들어가서 원하는 버전 Toolkit 을 설치한다. 해당하는 ubuntu 등등을 들어가서 나는 runfile 을 통해 설치했다. 이게 가장 좋은 것 같다.

https://developer.nvidia.com/cuda-toolkit-archive

CUDA Toolkit Archive

 

일단 사용하는 gpu 는 rtx3060 이다. 오래된 gpu 같은 경우는 지원하는 드라이버에 대한 파악도 필요하므로 아래 공식 링크에서 확인하고 설치하면 된다.

https://docs.nvidia.com/cuda/cuda-toolkit-release-notes/index.html

CUDA 12.1 Update 1 Release Notes

 

rtx3060 은 지원이 끊기는 버전들이 없으므로 내가 설치 cuda  toolkit 버전을 정한 기준은 pytorch conda install 을 지원하는 버전으로 설치를 진행했다. 여기서는 pytorch 2.0 에 대해 11.7 과 11.8 설치 가이드를 제시하므로 나는 11.8 로 지정했다. 아래는 pytorch 공식 설치 문서이므로 여기를 참고하자.

 

https://pytorch.org/get-started/locally/

PyTorch

 

 

 

이제 터미널에서 설치를 할 때 먼저 Abort, Continue 가 나오면 Continue 에 두고 엔터를 한다. 만약 여기서 에러가 나면 아래 명령어를 실행한 후 다시 해야한다.

sudo apt-get install build-essential

이후 Licence 관련 창이 나오는데 accept 를 입력 후 엔터를 한다. 그리고 CUDA Installer 가 나오면 Driver 로 가서 스페이스바를 눌러서 체크를 해제하고 Install 을 한다. Driver 에 대한 부분만 해제하면 된다. 쭉 진행되고 Logfile is /var/log/cuda-installer.log 가 나오며 종료되면 설치가 완료된 것이다.

 

이제 해당하는 Toolkit 버전에 대한 명령어들을 하나씩 터미널에 입력한다. Toolkit 버전 11.8 면 아래와 동일하고 11.2 이면 11.8 부분을 11.2 로만 다 바꿔서 해주면 된다.

 

sudo sh -c "echo 'export PATH=$PATH:/usr/local/cuda-11.8/bin' >> /etc/profile"
sudo sh -c "echo 'export LD_LIBRARY_PATH=$LD_LIBRARY_PATH:/usr/local/cuda-11.8/lib64' >> /etc/profile"
sudo sh -c "echo 'export CUDADIR=/usr/local/cuda-11.8' >> /etc/profile"
source /etc/profile

이제 터미널에 아래 명령어를 치면 설치된 버전이 나온다. 안나오면 재부팅을 해보자.

nvcc -V

이제 마지막으로 CuDNN 을 설치해야 한다. 아래 링크에 들어가서 자기 cuda toolkit 버전에 맞는 cudnn 을 설치해준다. 나는 11.8 이므로 8.9.0 을 설치하였다.

https://developer.nvidia.com/cudnn

CUDA Deep Neural Network

 

여기서 중요한게 1년 전에 올라온 cudnn 은 설치가 tar, tgz 등의 압축으로 되어있어 최선 버전인 cudnn 은, 특히 ubuntu 는 deb 설치 파일을 제공하고 있다. 따라서 인터넷에 정말 잘 나오지 않았으므로 아래 가이드를 따라서 잘 설치하시면 된다. 열심히 찾았다.

먼저 위에 링크에서 말한대로 해당 파일을 눌러서 다운을 받는다. 내 파일 이름은 cudnn-local-repo-ubuntu2204-8.9.0.131_1.0-1_amd64.deb 였다. 아래는 이 파일로 설치하는 과정이다.

cd Download (다운로드 폴더로 들어가면 된다)
sudo dpkg -i cudnn-local-repo-ubuntu2204-8.9.0.131_1.0-1_amd64.deb (자기 deb 파일 이름을 치면 된다)
sudo apt-get update
sudo apt-get install libcudnn8-dev

이 과정으로 설치를 하면 깔끔하다.

 

제대로 설치 되었는지 확인하는 명령어는 아래와 같다. 그대로 복붙해서 터미널에 넣어보자.

ldconfig -N -v $(sed 's/:/ /' <<< $LD_LIBRARY_PATH) 2>/dev/null | grep libcudnn

그러면 아래와 같은 결과가 나오는데 이러면 설치가 완료된 것이다. 이런거 할때는 안전하게 한번 reboot 하고 하는게 좋다. 이래야 마음이 편해여.

이제 제거 명령어들에 대해 확인해보자. 아래는 driver 제거 명령어이다.

sudo apt-get purge nvidia*
sudo apt-get autoremove
sudo apt-get autoclean

 

아래는 cuda toolkit 제거 명령어들이다. 다 실행해서 확실하게 지우자.

sudo rm -rf /usr/local/cuda*
sudo apt-get --purge remove 'cuda*'
sudo apt-get autoremove --purge 'cuda*'

sudo dpkg -l | grep nvidia #여기서 뭐 나오면 그 이름을 아래에
sudo apt-get remove --purge 지우는그이름

 

 

끝이다. 매우 간단하다. 제거하려면 아래 명령어를 다 실행해서 확실하게 제거하자. 아래는 cudnn 에 대한 제거 명령어이다.

sudo apt-get remove nvidia-cudnn
sudo apt-get -y autoremove nvidia-cudnn
sudo apt-get -y purge nvidia-cudnn
sudo apt-get -y autoremove --purge nvidia-cudnn