아티클 관련 제품: SparklingSoDA4.0
이 글을 읽으면
- 분석계에서 개발이 완료된 모델과 모델서버를 운영계로 이관할 수 있습니다.
사전 작업 및 준비
- 분석계에서 운영계로 모델 및 서버를 넘기기 위해서는 두 클러스터가 동일한 망에 있어야 합니다.
- 분석계에서 개발이 완료된 모델과 서버가 있어야 합니다.
- 분석계에서 운영계로 넘길 때 동일한 유저가 있어야 합니다.
목록
분석계 확인
분석계에서 개발이 완료된 Model과 Rest App이 있습니다.
Model Deploy
운영계로 넘길 모델을 선택합니다.
배포된 모델 버전을 선택합니다.
하단의 Deploy 버튼을 클릭합니다.
모델 deploy가 완료되었습니다.
운영계에서 모델을 확인합니다.
Rest Server Deploy
운영계로 넘길 RestApp을 선택합니다.
Server탭에서 deploy할 server를 선택합니다.
하단의 Deploy 버튼을 클릭합니다.
운영계에서 Rest Server를 확인합니다.
Model Service
분석계에서 넘어온 Model를 사용해 Model Service를 생성합니다.
- Service Name : 분석계의 모델 서비스 이름과 동일해야 합니다.
- Resource : 사용할 GPU를 선택합니다.
- Model : Model Assets에 등록된 모델을 선택합니다.
모델 서비스가 Running임을 확인합니다.
Response Test
Rest Server의 Endpoint를 사용해 모델의 response를 확인합니다.
마치며
- 분석망과 운영망이 같아, deploy할 수 있는 상황에서의 운영모드 사용 방법을 알아보았습니다.
아티클이 유용했나요?
훌륭합니다!
피드백을 제공해 주셔서 감사합니다.
도움이 되지 못해 죄송합니다!
피드백을 제공해 주셔서 감사합니다.
피드백 전송
소중한 의견을 수렴하여 아티클을 개선하도록 노력하겠습니다.