홈 서버 구축(3) - AI Server (Nvidia driver, Miniconda, Pytorch)

1. Nvidia Driver 설치

드라이버를 설치하기 전에 추천 드라이버 버전을 확인합니다

ubuntu-drivers devices

sudo ubuntu-drivers install

 

사실 위 명령어를 치면 자동으로 추천 드라이버를 설치해줍니다.

설치 후 재부팅한 다음 설치가 잘 되었는지 확인해봅니다.

nvidia-smi

 

2. Pytorch 설치

파이토치를 설치합니다.

우선 파이토치 공식 홈페이지 (https://pytorch.org/get-started/locally/) 에 접속해 Cuda 버전을 확인합니다.

pytorch 2.12.0을 설치할 건데 cuda 12.6, 13.0, 13.2 버전이 있습니다.

제 그래픽카드가 저 버전을 지원하는 지 확인합니다. (https://en.wikipedia.org/wiki/CUDA#GPUs_supported)

 

rtx 5090은 CUDA Compute Capability 12.0 이므로 cuda 12.8~13.3을 지원합니다.

pytorch 2.12.0의 모든 cuda 버전을 지원하는 것 같습니다.

저는 cuda 13.2을 설치하겠습니다.

설치 전, conda 가상환경을 통해 가상환경 안에 설치할 것이므로 miniconda 부터 설치합니다.

3. Miniconda 설치

https://www.anaconda.com/docs/getting-started/miniconda/install/linux-install

Linux installer - Anaconda

wget https://repo.anaconda.com/miniconda/Miniconda3-latest-Linux-x86_64.sh
bash ~/Miniconda3-latest-Linux-x86_64.sh

###아나콘다 설치###
source ~/.bashrc
conda config --set auto_activate_base False # 자동활성화 제거
conda create -n (env_name) python=3.12
conda activate (env_name)

 

근데 요즘은 파이토치 설치 시 자동으로 cuda, cudnn 까지 설치해준다고 합니다.cuda+cudnn 설치의 수고로움을 덜 수 있어 좋네요 bb

pip3 install torch torchvision --index-url https://download.pytorch.org/whl/cu132
python -c "import torch; print(torch.__version__); print(torch.version.cuda); print(torch.cuda.is_available()); print(torch.cuda.get_device_name(0))"

 

다음 포스팅은 논문 구현 시 conda 가상환경보다는 docker로 컨테이너를 생성해서 구현하는 것이 훨씬 편하므로 Docker 및 Nvidia Container Toolkit을 설치하여 논문 구현 시 간단하게 도커 환경을 불러와 실습할 수 있는 세팅을 해보도록 하겠습니다.

 

감사합니다.