콘텐츠로 이동

GPU 컴퓨팅

psi 서버에서 NVIDIA GPU를 사용한 연산을 수행할 수 있습니다.

GPU 환경

  • 드라이버: modules/nvidia.nix의 nvidiaPackages.production (flake input과 커널에 따라 버전 결정)
  • CUDA Toolkit 설치됨
  • Docker + NVIDIA Container Toolkit 활성화

실행 중인 드라이버·GPU·VRAM과 CUDA compiler 버전은 psi에서 확인합니다. nvidia-smi의 CUDA 표시는 드라이버가 지원하는 API 상한이며 설치된 Toolkit 버전과 같다는 뜻은 아닙니다.

nvidia-smi --query-gpu=name,driver_version,memory.total,memory.used --format=csv
nvcc --version

Docker로 GPU 사용

모든 사용자(연구원, 학생, 관리자)는 docker 그룹에 포함되어 있어 Docker를 직접 사용할 수 있습니다.

# GPU 확인
docker run --rm --gpus all nvidia/cuda:12.8.0-base-ubuntu24.04 nvidia-smi

# PyTorch 컨테이너
docker run --rm --gpus all -it \
  -v /workspace/$USER:/workspace \
  pytorch/pytorch:latest \
  python -c "import torch; print(torch.cuda.is_available())"

직접 CUDA 사용

시스템에 CUDA 관련 라이브러리가 설치되어 있어 컨테이너 없이도 사용 가능합니다:

  • cudatoolkit
  • cudnn
  • cuda_cudart

참고사항

  • GPU 자원은 공유됩니다. 장시간 점유 시 다른 사용자와 조율하세요.
  • 대용량 데이터는 /workspace/<username>/에 저장합니다 (SSD RAID0, 고속).
  • 가용 VRAM은 실행 중인 작업에 따라 달라집니다. 서비스 이름만으로 추정하지 말고 실제 사용량을 확인하세요.
  • /workspace는 백업되지 않습니다. 보존할 결과는 root filesystem의 /project/$USER와 독립적인 사본으로 옮기세요. 스토리지 구조를 참조합니다.