모델 배포는 어떻게 하나요?

작성자 김민태 수정일 2022-11-01 15:39

#스파클링소다3.0, #스파클링소다3, #스파클링소다, #SparklingSoDA3.0, #SparklingSoDA3

아티클 관련 제품: SparklingSoDA3.0

들어가며

  • 스파클링소다에서는 모델 빌드가 완료되면 실제 서비스 하기 위해 모델을 배포를 할 수 있습니다.
  • 모델을 배포하여 서비스 하는 방법에 대해 알아봅니다.



내용


모델 빌드 후 Git에 Commit & Push를 했다면 (통합) 모델 서비스 메뉴를 클릭합니다.



Project명과 Service명을 확인하여 배포를 원하는 모델의 Detail을 누릅니다.



리소스를 선택한 후 Engine 시작 버튼을 누릅니다.






Engine이 정상적으로 기동되면 해당 모델 API를 Test Service 버튼을 눌러 체크 해봅니다.


※ 정상적으로 TEST가 완료되면 아래와 같이 Test Service 성공! 이 출력되며, 지정한 Field 명이 출력됩니다.




통합 테스트 엔진까지 구동 되고 TEST가 성공하면 실제로 API 호출이 가능한 상태입니다.
curl을 통해 API를 직접 호출하는 방법으로도 TEST가 가능합니다.


curl -XPOST -H "Content-Type: application/json"      -d '{"check_a":"A14","duration":12,"c_history":"A34","purpose":"A46","c_amount":2096,"savings":"A61","employment":"A74","install_rate":2,"personal":"A93","guarantee":"A101","residence":3,"property":"A121","age":49,"install_p":"A143","housing":"A152","n_exist":1,"job":"A172","n_people":2,"tel":"A191","foreign":"A201"}'      https://192.168.50.52:30002/mariadbtest/integrate --insecure

{"body":{"bad":0.44363096356391907,"ccc.ddd":null,"good":0.5563690066337585},"header":{"errorCode":null,"errorMessage":null,"errorType":null,"status":"SUCCESS"}}




TEST에 성공했다면 빌드 결과를 Fail에서 OK로 변경한 뒤 저장합니다.





실제 통합 테스트가 완료되면 운영 서비스에 배포하기 위해 (운영) 모델 서비스 메뉴를 클릭합니다.



운영 서비스 배포를 원하는 모델을 Detail 누릅니다.
※ 통합 테스트 메뉴에서 통합 결과를 OK 로 변경하여 저장 된 모델만 리스트에 표기됩니다.





리소스와 Replicas 그리고 Workers를 지정한 후에 Engine 시작을 누릅니다.

Replicas : 파드의 갯수, 즉 고가용성을 뜻 합니다. Replicas의 수 만큼 여러개의 파드가 기동되어 안정적인 운영이 가능합니다. 

Workers : 실행되는 프로세스의 수, 즉 고효율성을 뜻 합니다. Workers의 수 만큼 여러개의 프로세스가 실행되어 동시 처리 성능이 올라갑니다.



Engine이 시작되면 이제 실제 운영 서비스가 가능합니다. TEST를 눌러 테스트 합니다.

통합 테스트에서 이미 TEST를 한번 거쳤기 때문에 정상적으로 잘 동작 할 것 입니다.



실제 터미널 상에서도 API 호출이 가능한 상태임을 확인할 수 있습니다.
curl -XPOST -H "Content-Type: application/json"      -d '{"check_a":"A14","duration":12,"c_history":"A34","purpose":"A46","c_amount":2096,"savings":"A61","employment":"A74","install_rate":2,"personal":"A93","guarantee":"A101","residence":3,"property":"A121","age":49,"install_p":"A143","housing":"A152","n_exist":1,"job":"A172","n_people":2,"tel":"A191","foreign":"A201"}'      https://192.168.50.52:30002/mariadbtest/real --insecure

{"body":{"bad":0.4219348132610321,"ccc.ddd":null,"good":0.5780652165412903},"header":{"errorCode":null,"errorMessage":null,"errorType":null,"status":"SUCCESS"}}





마무리

  • 위와 같이 모델 서비스를 배포하고 운영할 수 있습니다.

아티클이 유용했나요?

훌륭합니다!

피드백을 제공해 주셔서 감사합니다.

도움이 되지 못해 죄송합니다!

피드백을 제공해 주셔서 감사합니다.

아티클을 개선할 수 있는 방법을 알려주세요!

최소 하나의 이유를 선택하세요
CAPTCHA 확인이 필요합니다.

피드백 전송

소중한 의견을 수렴하여 아티클을 개선하도록 노력하겠습니다.

02-558-8300