inflearn logo
강의

강의

N
챌린지

챌린지

멘토링

멘토링

N
클립

클립

로드맵

로드맵

지식공유

Spring AI 실전 가이드: RAG 챗봇 만들기

[실습] RAG해서 LLM 태운 응답을 반환하는 챗봇 만들어보기 - RAG 채팅 메시지 전송 API

좋은 강의 퀄러티 감사합니다 질문있습니다 !

112

센세이

작성한 질문수 1

0

2번째 챕터를 하던 와 중 gpt 모델을 mini로 바꾸고

pdf 변환을 하려고했으나 여전히 429 에러가 나타는데 해결법이 어떻게 되는지 알 수 있을까요?!

(llm 채팅 메세지 전송은 정상적으로 됩니다)

 

spring spring-boot llm spring-ai

답변 1

0

인프런 AI 인턴

안녕하세요, 인프런 AI 인턴입니다.

센세이님, gpt 모델을 사용하는 과정에서 429 에러가 발생하는 문제로 어려움을 겪고 계신 것 같네요. 429 에러는 일반적으로 과도한 요청 때문에 발생하는데요, 이는 주로 쿼터 제한에 걸리거나 단기적으로 과도한 요청을 보낸 경우에 흔하게 볼 수 있는 오류입니다.

일단, 다음과 같은 방법들을 시도해 보실 수 있습니다:

  1. 요청 간격 늘리기: 서버의 과부하를 피하기 위해 요청 간의 간격을 늘려 보세요. 예를 들어 일정 시간을 두고 요청을 반복하는 방식입니다.

  2. API 사용량 확인: 현재 사용 중인 API의 쿼터 제한이 어떻게 설정되어 있는지 확인하세요. 직접적으로 OpenAI의 지원 페이지나 API 대시보드에서 확인하실 수 있습니다.

  3. Plan 업그레이드 검토: 무료 티어에서 쿼터 제한에 걸리는 경우가 종종 있으므로, 가능하다면 유료 플랜으로 업그레이드를 고려해 보시는 것도 방법입니다.

  4. 다양한 mini 모델 활용: 다른 mini 모델 변형을 시도해 보세요. 특정 모델이 아닌 여러 모델 변형을 사용하면 트래픽 분산에 도움이 될 수 있습니다.

429 에러는 종종 일시적인 경우가 있을 수 있으니 주기적으로 다시 시도해 보시고, 여전히 문제가 지속된다면 인프런 지원팀이나 해당 강의의 강사에게 문의하여 더 정확한 지원을 받는 것도 좋은 방법입니다.

저는 질문자님의 이해를 돕고자 추가적으로 참고할 수 있는 답변 링크를 현재 제공할 수 없으니, 문제 해결에 대한 도움을 계속 받아보시는 걸 권장드립니다. 추가적으로 궁금한 점이 있으시면, 이어서 질문해 주세요. 곧 지식공유자께서 답변해 주실 것입니다.

Langchain 공식문서 학습 질문

0

7

1

프로젝트가 없어요..

0

10

1

나머지 강의는 언제 업로드되나요?

0

15

1

[참고] Cannot connect to host host.docker.internal:8080

0

19

1

JpaCursorItemReader의 정렬 조건 부재의 영향

1

25

2

소스코드 빈 파일 문의드려요

0

27

2

changeTeam 메서드 질문

0

21

1

"컴파일 시점에 없는 값을 어떻게 참조할 것인가?" 섹션

1

36

2

테스트 관련 질문!

0

41

2

40강 Multi GPU 필요성 설명이 두번 나오는 것 같아요

0

32

2

There are no longer any instances available with the requested specifications. Please refresh and try again.

0

41

2

백엔드, 프론트엔드 충돌 미리 방지 관련

0

44

1

handleBindException 의 기대의도가 방향이 맞는지 궁금합니다.

0

34

2

SpringBoot 4.0.6 버전에서 PackageLogTracePostProcessor exception

0

42

2

버전에 3.11이랑 3.11.X 랑 차이가 있나요?

0

27

1

왜 파이썬 버전을 같게 해야하는가?

0

44

3

settings.local.json에 어떻게 mcp 관련된 allow가 있나요?

0

32

2

poetry 설정을 어떻게 해야하나요?

0

53

5

페이징 처리에서 offset/limit에 대한 질문

1

38

1

인텔리제이 오류

0

42

1

SPRING AI 실행을위한 환경설정이 궁금합니다.

0

132

2

429 에러 발생합니다

0

115

1

해당 내용을 공부하며 블로그에 포스팅 해도 될까요?

0

222

2

1

0

84

0