인프런 커뮤니티 질문&답변
작성한 질문수
end point 생성 관련 질문드립니다!
작성
·
22
0
강사님 안녕하세요,
end point를 생성하는 과정에서 문제가 생겨 문의드립니다. 다른 분 댓글에서 알려주신대로 "user model for inference"에서 create endpoint를 하려고 하면 버튼이 동작하지를 않아서요ㅜㅜ
버튼을 누르면 이런 404 에러가 뜹니다.
databricks region은 East US로 잘 설정되어있고 end point이름도 설정하였는데 왜 이런 오류가 나는지 조언 구할 수 있을까해서 댓글 남깁니다!
감사합니다 :)
답변 4
1
원인을 파악했습니다.
Databricks 측에서 기존의 legacy serving 을 없애고 새롭게 Mosaic AI Model Serving 으로 정책을 바꾸면서, 사용자의 ML/DL 모델은 물론, LLM 모델들을 한 곳에서 모두 Serverless Model Serving 을 하도록 해 놓았네요.
찾아보니, 기존에 serving 으로 올려놓은 모델들이 run_id 가 그대로 살아 있음에도 불구하고 endpoint 를 종전처럼 이용할 수 없게 바꾸어 놓았습니다.
아쉬운 점은 Mosaic AI Model Serving 이 유료라는 점이네요.
https://www.databricks.com/product/pricing/model-serving
그렇기에 유료 계정으로 사용하고 있으니 create endpoint 가 동작하지 않을 거예요.
pricing 을 확인해 보면 비용은 매우 저렴한 편이라 학습용으로 약간 이용하는 수준이라면 부담은 없을 것으로 보여요.
serverless serving 이 특징이다보니, create endpoint 를 누르면 container 레지스트리가 생성되며 REST API로 엔드포인트가 제공되어, 종전보다 훨씬 편하게 모델을 이용할 수 있다는 점이 가장 큰 장점입니다.
0
0
안녕하세요, 인프런 AI 인턴입니다. 다니님.
end-point 생성 과정에서 발생하는 문제에 대해 문의를 주셨군요. Databricks에서 end-point를 생성하는 과정에서 404 오류가 발생하는 경우는 여러 가지 원인이 있을 수 있습니다. 우선, 자주 발생하는 문제와 해결책을 몇 가지 안내드립니다.
Region 설정 확인: 이미 확인하셨겠지만, Databricks 계정의 region 설정이 올바르게 되어 있는지 다시 한번 점검해보세요.
URL 및 경로 확인: 오류 메시지에 표시된 URL의 경로가 정확한지, 혹은 잘못된 경로가 아닌지 확인해보시기 바랍니다.
네트워크 및 권한 문제: 네트워크 및 접근 권한과 관련하여 문제가 있을 수 있습니다. 특히, 방화벽 설정이나 API 호출 권한이 올바르게 설정되어 있는지 확인하세요.
Endpoint 및 Model 설정: endpoint 이름이나 모델 정보가 올바르게 입력되었는지, Databricks 내에서 해당 자원이 존재하는지 다시 확인해 보세요.
버그나 일시적 오류: 때때로 Databricks에서 일시적인 버그가 발생할 수 있습니다. 캐시를 지운 뒤 브라우저를 새로고침하거나, 문제 해결을 위해 Databricks에 로그인한 다른 브라우저나 기기에서 시도해보세요.
위의 해결책이 도움이 되지 않는다면, Databricks 지원팀에 문의하여 자세한 로그 및 문제 해결을 위한 추가 지원을 요청하시는 것도 좋습니다.
이와 관련된 답변이나 참고 자료는 다음 링크를 통해 얻을 수 있습니다:
- Databricks에서 endpoint 생성 관련 도움말
저는 질문자님의 이해를 돕고자 지식공유자님의 기존 답변을 참고하여 유사한 답변 링크를 추천해드리고 있습니다.
현재 베타 기능으로 답변이 만족스럽지 않을 수 있는 점 양해 부탁드립니다. 🙏
추가적으로 궁금한 점이 있으시면, 이어서 질문해 주세요. 곧 지식공유자께서 답변해 주실 것입니다.
답변 주셔서 정말 감사합니다! 알려주신대로 시도해보겠습니다:) 바쁘실텐데 시간내어 확인해주셔서 다시 한번 감사해요!