GPU 리소스를 사용하는 방법이 궁금해요

아티클 관련 제품: SparklingSoDA3.0

들어가며

• 스파클링소다에서 분석엔진을 기동할 때 GPU 리소스를 사용할 것을 설정하고 구동이 가능합니다.
• 분석 엔진 및 모델 서비스를 운영할 때 GPU자원을 사용할 수 있는 방법에 대해 알아봅니다.

내용

GPU 리소스를 사용하기 위해서는 Resource Pool 메뉴에서 GPU 자원을 생성해야 합니다.
GPU 리소스 자원을 생성하기 위해 Admin 메뉴의 Resource Pool을 클릭합니다.

오른쪽 위의 [Resource Pool] 추가 버튼을 누릅니다.

Resource Pool의 자원 이름을 입력합니다.

Resource Type을 선택합니다.

✓ Resource 유형 
유형을 DevAI로 선택 시 개발에서 사용하는 프로젝트의 분석 엔진에서 사용이 가능하며
유형을 AIOps로 선택 시 모델 배포 및 서비스에서 사용하는 엔진에서 사용이 가능합니다.

Value 부분의  CPU core의 개수 및 Memory를 입력합니다.

GPU 자원을 추가하기 위해서 [+ GPU Info] 버튼을 누릅니다.

GPU Driver에서 선택 가능 그래픽 카드가 나타납니다.원하는 카드를 선택합니다.(※ 중복 선택 가능)

GPU Usage는 그래픽 카드들의 사용량 입니다. 0~1까지의 사이 값을 가집니다. (※ 1이 최대 사용)

OK를 눌러 저장합니다.

모든 정보를 확인한 뒤 아래의 권한 설정으로 넘어갑니다.

해당 리소스를 사용 할 수 있는 프로젝트들을 별도로 지정할 수 있습니다.

리소스를 사용할 수 있는 그룹 권한을 별도로 지정 할 수도 있습니다.

또한 특정 사용자들만 선택 할 수 있는 권한 설정도 가능합니다.

 

모든 설정이 끝났다면 저장 버튼을 눌러 저장합니다.

마무리

이제 원하는 서비스의 Resource Pool 메뉴에서 생성한 GPU자원의 사용이 가능해집니다.