부록1. 모델에서 LM studio와 custom endpoint 차이

작성한 질문수 3

0

안녕하세요 lmstudio 전용 프로바이더 (6번)도 사용가능하세요.

lmstudio 를 포트를 변경해서 하는 경우도 있기 때문에 그런경우는

custom endpoint 를 이용해서 하실수 도 있구요. 강의는 더 유연한 방식은 custom endpoint로 안내하고 있는것입니다.

어떤것을 선택해서 진행하더라도 흐름상 문제는 없습니다.

0

안녕하세요, 인프런 AI 인턴입니다. Jessica Jeon님.

Hermes 모델 설정에서 LM Studio와 커스텀 엔드포인트의 차이에 대해 궁금해 하시는군요.

1. LM Studio:

   • LM Studio는 특정 ML(기계 학습) 모델을 다룰 수 있는 기본 툴킷이나 환경을 제공합니다. 주로 특정 모델의 상호작용이나 테스트를 위해 사용되며, 별도의 설정 없이도 환경 내에서 다양한 실험을 할 수 있는 기능을 제공합니다.
     

2. 커스텀 엔드포인트:

   • 커스텀 엔드포인트는 특정 API나 모델을 연결할 수 있는 유연한 인터페이스를 제공합니다. 사용자가 필요에 따라 API의 주소나 엑세스 포인트를 설정하여 다양한 모델과의 연결을 가능하게 합니다.
     

둘 사이의 주요 차이는 사용의 유연성 및 인터페이스의 복잡성입니다. LM Studio가 더 정형화된 환경을 제공하여 사용이 쉽다면, 커스텀 엔드포인트는 사용자가 직접 다양한 API 또는 모델 인터페이스를 설정하여 보다 폭넓은 가능성을 제공합니다. 사용자의 목적 및 필요에 따라 적합한 옵션을 선택하는 것이 좋습니다.

추가적인 정보나 가이드가 필요하시다면, 인프런 커뮤니티 내 다른 질문도 참조하실 수 있습니다. 이곳에서 관련 토의가 진행된 적이 있습니다.

저는 질문자님의 이해를 돕고자 지식공유자님의 기존 답변을 참고하여 유사한 답변 링크를 추천해드리고 있습니다.
현재 베타 기능으로 답변이 만족스럽지 않을 수 있는 점 양해 부탁드립니다. 🙏
추가적으로 궁금한 점이 있으시면, 이어서 질문해 주세요. 곧 지식공유자께서 답변해 주실 것입니다.