inflearn logo
강의

강의

N
챌린지

챌린지

멘토링

멘토링

N
클립

클립

로드맵

로드맵

지식공유

Spring AI 실전 가이드: RAG 챗봇 만들기

[실습] RAG해서 LLM 태운 응답을 반환하는 챗봇 만들어보기 - RAG 채팅 메시지 전송 API

좋은 강의 퀄러티 감사합니다 질문있습니다 !

116

센세이

작성한 질문수 1

0

2번째 챕터를 하던 와 중 gpt 모델을 mini로 바꾸고

pdf 변환을 하려고했으나 여전히 429 에러가 나타는데 해결법이 어떻게 되는지 알 수 있을까요?!

(llm 채팅 메세지 전송은 정상적으로 됩니다)

 

spring spring-boot llm spring-ai

답변 1

0

인프런 AI 인턴

안녕하세요, 인프런 AI 인턴입니다.

센세이님, gpt 모델을 사용하는 과정에서 429 에러가 발생하는 문제로 어려움을 겪고 계신 것 같네요. 429 에러는 일반적으로 과도한 요청 때문에 발생하는데요, 이는 주로 쿼터 제한에 걸리거나 단기적으로 과도한 요청을 보낸 경우에 흔하게 볼 수 있는 오류입니다.

일단, 다음과 같은 방법들을 시도해 보실 수 있습니다:

  1. 요청 간격 늘리기: 서버의 과부하를 피하기 위해 요청 간의 간격을 늘려 보세요. 예를 들어 일정 시간을 두고 요청을 반복하는 방식입니다.

  2. API 사용량 확인: 현재 사용 중인 API의 쿼터 제한이 어떻게 설정되어 있는지 확인하세요. 직접적으로 OpenAI의 지원 페이지나 API 대시보드에서 확인하실 수 있습니다.

  3. Plan 업그레이드 검토: 무료 티어에서 쿼터 제한에 걸리는 경우가 종종 있으므로, 가능하다면 유료 플랜으로 업그레이드를 고려해 보시는 것도 방법입니다.

  4. 다양한 mini 모델 활용: 다른 mini 모델 변형을 시도해 보세요. 특정 모델이 아닌 여러 모델 변형을 사용하면 트래픽 분산에 도움이 될 수 있습니다.

429 에러는 종종 일시적인 경우가 있을 수 있으니 주기적으로 다시 시도해 보시고, 여전히 문제가 지속된다면 인프런 지원팀이나 해당 강의의 강사에게 문의하여 더 정확한 지원을 받는 것도 좋은 방법입니다.

저는 질문자님의 이해를 돕고자 추가적으로 참고할 수 있는 답변 링크를 현재 제공할 수 없으니, 문제 해결에 대한 도움을 계속 받아보시는 걸 권장드립니다. 추가적으로 궁금한 점이 있으시면, 이어서 질문해 주세요. 곧 지식공유자께서 답변해 주실 것입니다.

Gradio 실행 시 에러 발생 문의

0

9

2

Gradio 실행 시 Jinja2 / ASGI TypeError: unhashable type: 'dict' 에러 문의

0

8

2

7강 보고 있는데요.. 글자가 너무 작아요

0

3

0

트래잭션 전파 기본- 에 대한 개념 질문? 이렇게 생각해도 맞나요?

0

10

0

헥사고날 아키텍처와 DDD를 적용할 때, 화면에 강하게 연관된 조회 데이터를 어떻게 다루는 게 좋은지 궁금합니다.

0

25

2

DLQ의 수동 커밋에 대해서 질문있습니다.

0

31

2

노션링크가 접근되지 않습니다.

0

23

1

h2 database

0

17

1

별첨자료 URL 들어가면 404 떠요..

0

22

2

실무에서 동의어 정의 관련

0

32

2

Request DTO에서 Entity를 생성할 때 의존성 방향을 반대로 하면 어떨까요?

0

50

2

소스 코드 좀 올려주세요.

0

34

1

스프링 부트 버전 질문

0

68

2

파인튜닝 데이터가 이미 학습된 데이터인 경우 어떻게 되나요?

0

31

1

개념과 격벽에 대한 이해를 팀과 공유하고 합의하는 방법

1

57

2

api key, access token이 평무으로 저장되는 것 같아요.

0

53

2

[ReadMe]영상에 나온거랑 깃이랑 다르네요

0

54

2

수업 자료 링크는 어디에 있나요?

0

59

2

RAG 파이프라인 고도화와 파인튜닝의 우선순위 및 실무적 판단 기준이 궁금합니다.

0

44

2

runpod 사용방법이 궁금합니다..

0

44

1

SPRING AI 실행을위한 환경설정이 궁금합니다.

0

153

2

429 에러 발생합니다

0

131

1

해당 내용을 공부하며 블로그에 포스팅 해도 될까요?

0

237

2

1

0

94

0