inflearn logo
강의

강의

N
챌린지

챌린지

멘토링

멘토링

N
클립

클립

로드맵

로드맵

지식공유

Spring AI 실전 가이드: RAG 챗봇 만들기

[실습] RAG해서 LLM 태운 응답을 반환하는 챗봇 만들어보기 - RAG 채팅 메시지 전송 API

좋은 강의 퀄러티 감사합니다 질문있습니다 !

114

센세이

작성한 질문수 1

0

2번째 챕터를 하던 와 중 gpt 모델을 mini로 바꾸고

pdf 변환을 하려고했으나 여전히 429 에러가 나타는데 해결법이 어떻게 되는지 알 수 있을까요?!

(llm 채팅 메세지 전송은 정상적으로 됩니다)

 

spring spring-boot llm spring-ai

답변 1

0

인프런 AI 인턴

안녕하세요, 인프런 AI 인턴입니다.

센세이님, gpt 모델을 사용하는 과정에서 429 에러가 발생하는 문제로 어려움을 겪고 계신 것 같네요. 429 에러는 일반적으로 과도한 요청 때문에 발생하는데요, 이는 주로 쿼터 제한에 걸리거나 단기적으로 과도한 요청을 보낸 경우에 흔하게 볼 수 있는 오류입니다.

일단, 다음과 같은 방법들을 시도해 보실 수 있습니다:

  1. 요청 간격 늘리기: 서버의 과부하를 피하기 위해 요청 간의 간격을 늘려 보세요. 예를 들어 일정 시간을 두고 요청을 반복하는 방식입니다.

  2. API 사용량 확인: 현재 사용 중인 API의 쿼터 제한이 어떻게 설정되어 있는지 확인하세요. 직접적으로 OpenAI의 지원 페이지나 API 대시보드에서 확인하실 수 있습니다.

  3. Plan 업그레이드 검토: 무료 티어에서 쿼터 제한에 걸리는 경우가 종종 있으므로, 가능하다면 유료 플랜으로 업그레이드를 고려해 보시는 것도 방법입니다.

  4. 다양한 mini 모델 활용: 다른 mini 모델 변형을 시도해 보세요. 특정 모델이 아닌 여러 모델 변형을 사용하면 트래픽 분산에 도움이 될 수 있습니다.

429 에러는 종종 일시적인 경우가 있을 수 있으니 주기적으로 다시 시도해 보시고, 여전히 문제가 지속된다면 인프런 지원팀이나 해당 강의의 강사에게 문의하여 더 정확한 지원을 받는 것도 좋은 방법입니다.

저는 질문자님의 이해를 돕고자 추가적으로 참고할 수 있는 답변 링크를 현재 제공할 수 없으니, 문제 해결에 대한 도움을 계속 받아보시는 걸 권장드립니다. 추가적으로 궁금한 점이 있으시면, 이어서 질문해 주세요. 곧 지식공유자께서 답변해 주실 것입니다.

2.3 Agentic RAG 관련 질문이 있습니다.

0

11

1

안녕하세요 치킨 디도스 이벤트 보고 흉내내보려 들어왔습니다..

0

12

1

실무 내용 문의드려요

0

24

2

dotenv, langchain_community 로드가 되지 않습니다.

0

21

1

FMP API 유료

1

25

1

코드 질문

0

25

1

To-Do App

0

27

1

twitterdb 연결이 안돼요

1

28

2

Kafka Cluster 구성도 질문

0

23

1

실습2_GPT기반_온라인_댓글_분류_자동.ipynb 파일 오류 있습니다.

0

26

1

SingletonService가 JVM이 뜰 때 생성되는게 맞나요?

0

33

2

시큐리티 필터 설정 질문입니다!

2

47

1

강의가 싱크가 안맞는것 같아요..

0

30

1

선생님 질문이 있어요

0

42

2

온톨로지 구축

0

27

1

임포트 오류

0

34

2

강의 완료 시점 문의

0

28

1

클라우드 가입 시 회사 이메일

0

43

1

답을언제쯤받아볼수있나요

0

49

2

엥?? 화면이 안나옵니다.

0

35

1

SPRING AI 실행을위한 환경설정이 궁금합니다.

0

142

2

429 에러 발생합니다

0

127

1

해당 내용을 공부하며 블로그에 포스팅 해도 될까요?

0

231

2

1

0

92

0