Inflearn Community Q&A
asked
end point 생성 관련 질문드립니다!
Written on
·
42
0
강사님 안녕하세요,
end point를 생성하는 과정에서 문제가 생겨 문의드립니다. 다른 분 댓글에서 알려주신대로 "user model for inference"에서 create endpoint를 하려고 하면 버튼이 동작하지를 않아서요ㅜㅜ
버튼을 누르면 이런 404 에러가 뜹니다.
databricks region은 East US로 잘 설정되어있고 end point이름도 설정하였는데 왜 이런 오류가 나는지 조언 구할 수 있을까해서 댓글 남깁니다!
감사합니다 :)
Answer 4
1
"패치 업데이트 강의" 섹션을 추가해서 해당 질문에 대한 대처방법을 올려두었습니다.
앞선 답변이 부족하면 영상을 참고하시기 바랍니다.
그럼 열공하세요~
위의 방법으로 account console에 admin으로 로그인하려고 하면 "The email is a personal Microsoft account. Personal Microsoft accounts are not supported for this application unless explicitly invited to an organization. Try signing out and signing back in with an organizational account." 이렇게 뜨면서 접근이 거부됩니다 ㅠㅠ
unity catalog 와 Mosaic AI model serving 과는 상관이 없답니다. unity catalog 는 말 그대로 데이터 베이스를 비롯 각종 데이터 자원을 효율적으로 관리하기 위한 종합시스템 정도로 이해하면 됩니다. 이것과 유료 결제가 필요한 Mosaic AI model serving은 관계가 없어요.
유료결제는 결국 Azure의 경우 subscription 의 형태에 영향을 받아요.
Personal account 라고 나와서 문제가 된다면, MSDN 라이선스 신청해 보는 것이 좋겠습니다. 월간 무료로 $150 크레딧이 제공되는 만큼, databricks 을 비롯 azure cloud의 모든 자원을 충분히 활용할 수 있을 겁니다.
1
원인을 파악했습니다.
Databricks 측에서 기존의 legacy serving 을 없애고 새롭게 Mosaic AI Model Serving 으로 정책을 바꾸면서, 사용자의 ML/DL 모델은 물론, LLM 모델들을 한 곳에서 모두 Serverless Model Serving 을 하도록 해 놓았네요.
찾아보니, 기존에 serving 으로 올려놓은 모델들이 run_id 가 그대로 살아 있음에도 불구하고 endpoint 를 종전처럼 이용할 수 없게 바꾸어 놓았습니다.
아쉬운 점은 Mosaic AI Model Serving 이 유료라는 점이네요.
https://www.databricks.com/product/pricing/model-serving
그렇기에 유료 계정으로 사용하고 있으니 create endpoint 가 동작하지 않을 거예요.
pricing 을 확인해 보면 비용은 매우 저렴한 편이라 학습용으로 약간 이용하는 수준이라면 부담은 없을 것으로 보여요.
serverless serving 이 특징이다보니, create endpoint 를 누르면 container 레지스트리가 생성되며 REST API로 엔드포인트가 제공되어, 종전보다 훨씬 편하게 모델을 이용할 수 있다는 점이 가장 큰 장점입니다.
1
0
안녕하세요, 인프런 AI 인턴입니다. 다니님.
end-point 생성 과정에서 발생하는 문제에 대해 문의를 주셨군요. Databricks에서 end-point를 생성하는 과정에서 404 오류가 발생하는 경우는 여러 가지 원인이 있을 수 있습니다. 우선, 자주 발생하는 문제와 해결책을 몇 가지 안내드립니다.
Region 설정 확인: 이미 확인하셨겠지만, Databricks 계정의 region 설정이 올바르게 되어 있는지 다시 한번 점검해보세요.
URL 및 경로 확인: 오류 메시지에 표시된 URL의 경로가 정확한지, 혹은 잘못된 경로가 아닌지 확인해보시기 바랍니다.
네트워크 및 권한 문제: 네트워크 및 접근 권한과 관련하여 문제가 있을 수 있습니다. 특히, 방화벽 설정이나 API 호출 권한이 올바르게 설정되어 있는지 확인하세요.
Endpoint 및 Model 설정: endpoint 이름이나 모델 정보가 올바르게 입력되었는지, Databricks 내에서 해당 자원이 존재하는지 다시 확인해 보세요.
버그나 일시적 오류: 때때로 Databricks에서 일시적인 버그가 발생할 수 있습니다. 캐시를 지운 뒤 브라우저를 새로고침하거나, 문제 해결을 위해 Databricks에 로그인한 다른 브라우저나 기기에서 시도해보세요.
위의 해결책이 도움이 되지 않는다면, Databricks 지원팀에 문의하여 자세한 로그 및 문제 해결을 위한 추가 지원을 요청하시는 것도 좋습니다.
이와 관련된 답변이나 참고 자료는 다음 링크를 통해 얻을 수 있습니다:
- Databricks에서 endpoint 생성 관련 도움말
저는 질문자님의 이해를 돕고자 지식공유자님의 기존 답변을 참고하여 유사한 답변 링크를 추천해드리고 있습니다.
현재 베타 기능으로 답변이 만족스럽지 않을 수 있는 점 양해 부탁드립니다. 🙏
추가적으로 궁금한 점이 있으시면, 이어서 질문해 주세요. 곧 지식공유자께서 답변해 주실 것입니다.
빠르게 업데이트 해주셔서 정말 감사합니다! 제공해주신 영상 덕분에 이해가 잘 되었어요:)
알려주신대로 mosaic ai를 활성화해서 end point 생성까지 진행해보고 싶은데 mosaic ai 활성화를 하려면 databricks admin 계정으로 계정 콘솔에 들어가서 meta store를 생성하고 workspace에 할당한다음 unity catalog사용으로 workspace를 활성화하는 단계를 거치면 되는게 맞는걸까요??
너무 나이브한 질문만 드리는것 같아 걱정되지만 답변주시면 정말 감사하겠습니다 ㅠㅠ