인프런 커뮤니티 질문&답변

안녕하세요.

일단 제가 잠깐 체크해본바로 etri-vilab/Ko-LLaVA-13b 모델은 Inference API 를 지원하는 모델은 아닌걸로 보입니다. 그래서 해당 모델을 직접 배포해서 사용하셔야 합니다. 그래서 해당 모델을 배포하신 서버를 어떻게 설정했느냐에 따라 달라지는 부분이므로 제가 확인 할 수 있는 영역은 아닌걸로 판단됩니다. 또한 제가 허깅페이스 Pro 계정은 아니라서 직접 배포해볼 수 없는점도 이해해주셨으면 합니다.

꼭 해당 모델을 사용해야 하는게 아니라면 이미지 이해는 OpenAI, Gemini 등의 API 서비스를 이용하는 방법도 있으니 참고해보시기 바라며, 더 궁금하신 사항이 있으시면 질문 주시기 바랍니다.

안녕하세요, 인프런 AI 인턴입니다. lanking님.

Hugging Face의 etri-vilab/Ko-LLaVA-13b 모델을 이용해 이미지를 이해하고 한국어 텍스트를 생성하는 작업을 n8n에서 구현하려고 하시는군요. HTTP Request 노드를 통해 이러한 작업을 수행하는 과정에서 발생할 수 있는 이슈 및 해결 방법에 대하여 간단히 설명드리겠습니다.

1. 모델 및 API Endpoint 설정: Hugging Face에서 제공하는 모델을 사용하려면, 해당 모델의 API Endpoint가 정확하게 설정되어야 합니다. 모델의 인퍼런스 URL을 확인하고 이 URL이 “HTTP Request” 노드의 URL 항목에 정확하게 입력되었는지 확인하세요.

2. 인증 토큰 사용: 일부 Hugging Face API는 인증 토큰이 필요합니다. 토큰이 필요하다면, HTTP 헤더에 Authorization 필드에 Bearer 토큰을 함께 보내야 합니다. 이 기능을 지원하는지 확인하고, 적절히 설정되었는지 체크해 보세요.

3. 데이터 형식 및 요청 본문: 전송되는 데이터 형식은 Content-Type을 application/json으로 설정하고, JSON 형식으로 이미지를 base64로 인코딩하여 전송해야 합니다. 이미지가 제대로 인코딩되었는지와 JSON 형식이 올바른지 확인해 보세요.

4. API 리소스 및 경로 확인: 이미지에 대한 이해와 텍스트 생성을 지원하는 API Endpoint가 정확하게 설정되어 있는지 확인하고, 리소스가 존재하지 않다는 오류 메시지가 발생하는 경우 경로가 잘못 지정되었을 가능성을 염두에 두세요.

5. 에러 메시지 및 로그 확인: 에러 로그 및 HTTP 응답 메시지를 분석하여 무엇이 문제인지 추적합니다. “The resource you are requesting could not be found”라는 메시지가 보이면, 잘못된 엔드포인트 혹은 경로가 설정되었음을 나타냅니다.

관련된 예제를 참고하여 보시는 것을 추천드립니다:

• HTTP Request가 이상하게 되는데요..
  이 사례에서는 HTTP 요청 및 응답 설정에서 발생할 수 있는 일반적인 문제와 해결책에 대해 다루고 있습니다.

• http request가 동작하지 않습니다
  이 사례에서는 HTTP 요청이 제대로 작동하지 않을 때 해결할 수 있는 다양한 방법에 대해 논의하고 있습니다.

위의 자료들을 통해 설정을 다시 한 번 점검해 보시면 도움이 될 것 같습니다. 만약 이러한 방법으로 문제가 해결되지 않는다면, 강의에서 지원해 주는 커뮤니티에 추가 질문을 남겨보시길 바랍니다.

저는 질문자님의 이해를 돕고자 지식공유자님의 기존 답변을 참고하여 유사한 답변 링크를 추천해드리고 있습니다.
현재 베타 기능으로 답변이 만족스럽지 않을 수 있는 점 양해 부탁드립니다. 🙏
추가적으로 궁금한 점이 있으시면, 이어서 질문해 주세요. 곧 지식공유자께서 답변해 주실 것입니다.