작성
·
238
0
공부를 하다 의문이 들어서 남김니다.
이렇게 학습한 모델을 서비스화하고싶어서 앱 or 웹에 적용시키려면 서버에 올려야할텐데 관련 툴이 있나요?
도커나 쿠버네티스...같은?
궁금합니다!
답변 1
1
안녕하십니까,
일반적으로 사이킷런 모델을 서비스로 올리는데 별도의 툴은 필요없습니다만, 최근에는 툴에 대한 관심이 높아지고 있습니다.
사이킷런 모델을 만들면 이 모델을 별도의 서버의 메모리로 올리고 해당 모델을 기동할 수 있는 API 서비스를 만듭니다. API 서비스라고 거창하게 할것은 없고 사이킷런 모델의 predict() 메소드를 호출할 수 있는 서비스를 어떤 형태로든지 만들면 됩니다. 그리고 웹/미들웨어 에서 이 서비스를 호출하기만 하면 됩니다.
기본 구조로는
client -> 웹/미들웨어 -> API 서버 -> 모델 서버(API서버 호출 응답)
요즘에는 이런 Deploy 과정을 자동화 해주는 툴이 나오고 있는데, 대표적으로는 BentoML(도시락ML)이 있습니다.
감사합니다.
감사합니다.