GPU 장비 호환성 조사하기

작성자 이경미 수정일 2023-02-10 14:15

들어가며

GPU 장비를 구매한다면 가장 먼저 기존 제품에 사용되는 모델 코드와 호환이 되는지 확인해야합니다.

이 때, 고려되는 사항은 다음과 같습니다.

먼저 구매하고자하는 GPU 장비의 Compute Capability 를 알아야합니다.

딥러닝에 사용되는 Framework 요구사항을 확인했을 때, GPU 에 지원항목에서 확인할 수 있습니다.

아래 CUDA 공식 문서에서 해당 장비의 레벨을 확인할 수 있습니다.

! Compute Capability 란 연산량을 나타내는 레벨

1. CUDA 공식 문서에 접속하여 구매하고자 하는 GPU 장비를 선택합니다.

예시 ) RTX A5000

2. CUDA 지원 범위 확인

그렇다면 연산 레벨에 맞는 CUDA 버전을 설치해야합니다.

CUDA SDK 는 Compute Capability 레벨에 따라 설치할 수 있는 범위가 지정되어 있습니다.

CUDA 공식 문서에서도 확인할 수 있습니다.

예시) 공식적으로 지원되는 범위를 한번에 정리한 사이트입니다.

링크 접속
GPUs Supports 확인 (https://en.wikipedia.org/wiki/CUDA#:~:text=11%20and%20float16.-,GPUs%20supported,-%5Bedit%5D)
내 장비 지원 범위 확인
RTX A5000 장비는 지원되는 CUDA SDK 가 11.1~12.0 인 것을 확인할 수 있습니다.

3. Tensorflow 지원 범위 확인

강화학습, 딥러닝 등 학습 코드를 실행할 때, Tensorflow 를 사용합니다.

Tensorflow 를 사용하기 위해서는 CUDA 호환성을 확인해야합니다.

아래 Tensorflow 공식 문서를 확인해 지원되는 Tensorflow 버전을 확인합니다.

링크 접속
CUDA 지원 범위 확인
: 2 번에서 확인한 "RTX A5000" 장비에 해당하는 CUDA 버전은 11.1~ 12.0입니다.
따라서 CUDA 버전에 맞게 TF 버전을 확인합니다.
cuDNN 을 설치한다면 TF 버전에 호환되도록 동일한 문서에서 버전을 확인한 뒤 설치하도록 합니다.

4. Nvidia Driver 호환성

설치할 CUDA 버전을 지정했다면 설치할 Nvidia Driver 버전을 확인해야합니다.

CUDA 공식 문서에서 호환성에 대해 확인할 수 있습니다.

CUDA 는 현재 마이너 호환이 가능하다고 공식적으로 발표된 바 있습니다.

따라서 권장하는 최소 Nvidia Driver 버전 이상을 설치하면 됩니다.