[Linux]Multi GPU 사용하기

CUDA_VISIBLE_DEVICES”를 통해 cuda가 볼 수 있는 GPU 제한

별도의 설정을 하지 않으면 cuda는 GPU 0번을 사용하려 한다. 그러나 현재 GPU 0번에는 memory 자리가 없다. 따라서 사용하지 않고 있는 GPU #2를 사용하여야 한다. 이를 위해 “CUDA_VISIBLE_DEVICES”라는 envirable variable를 변경하여 cuda가 볼 수 있는 GPU를 내가 사용하고자 하는 다른 GPU로 제한하여야 한다.(cuda는 cuda입장에서 visible한 gpu를 사용하는데, 인위적으로 visible devices를 변경함으로서 cuda가 내가 명시한 GPU를 사용하도록 하는 원리이다.)

Terminal로 실행

CUDA_VISIBLE_DEVICES=2 python train.py

Linux 카테고리 내 다른 글 보러가기