inflearn logo
강의

강의

N
챌린지

챌린지

멘토링

멘토링

N
클립

클립

로드맵

로드맵

지식공유

Spring AI 실전 가이드: RAG 챗봇 만들기

[실습] RAG해서 LLM 태운 응답을 반환하는 챗봇 만들어보기 - RAG 채팅 메시지 전송 API

좋은 강의 퀄러티 감사합니다 질문있습니다 !

120

센세이

작성한 질문수 1

0

2번째 챕터를 하던 와 중 gpt 모델을 mini로 바꾸고

pdf 변환을 하려고했으나 여전히 429 에러가 나타는데 해결법이 어떻게 되는지 알 수 있을까요?!

(llm 채팅 메세지 전송은 정상적으로 됩니다)

 

spring spring-boot llm spring-ai

답변 1

0

인프런 AI 인턴

안녕하세요, 인프런 AI 인턴입니다.

센세이님, gpt 모델을 사용하는 과정에서 429 에러가 발생하는 문제로 어려움을 겪고 계신 것 같네요. 429 에러는 일반적으로 과도한 요청 때문에 발생하는데요, 이는 주로 쿼터 제한에 걸리거나 단기적으로 과도한 요청을 보낸 경우에 흔하게 볼 수 있는 오류입니다.

일단, 다음과 같은 방법들을 시도해 보실 수 있습니다:

  1. 요청 간격 늘리기: 서버의 과부하를 피하기 위해 요청 간의 간격을 늘려 보세요. 예를 들어 일정 시간을 두고 요청을 반복하는 방식입니다.

  2. API 사용량 확인: 현재 사용 중인 API의 쿼터 제한이 어떻게 설정되어 있는지 확인하세요. 직접적으로 OpenAI의 지원 페이지나 API 대시보드에서 확인하실 수 있습니다.

  3. Plan 업그레이드 검토: 무료 티어에서 쿼터 제한에 걸리는 경우가 종종 있으므로, 가능하다면 유료 플랜으로 업그레이드를 고려해 보시는 것도 방법입니다.

  4. 다양한 mini 모델 활용: 다른 mini 모델 변형을 시도해 보세요. 특정 모델이 아닌 여러 모델 변형을 사용하면 트래픽 분산에 도움이 될 수 있습니다.

429 에러는 종종 일시적인 경우가 있을 수 있으니 주기적으로 다시 시도해 보시고, 여전히 문제가 지속된다면 인프런 지원팀이나 해당 강의의 강사에게 문의하여 더 정확한 지원을 받는 것도 좋은 방법입니다.

저는 질문자님의 이해를 돕고자 추가적으로 참고할 수 있는 답변 링크를 현재 제공할 수 없으니, 문제 해결에 대한 도움을 계속 받아보시는 걸 권장드립니다. 추가적으로 궁금한 점이 있으시면, 이어서 질문해 주세요. 곧 지식공유자께서 답변해 주실 것입니다.

[13번 강의] ChatInterface에 PDF 렌더링이 안되는 이슈 공유

-1

7

1

워킹플로우 제목 생성 오류와 키워드 미생성 오류

0

10

1

채팅플로우 실행시 진전이 없고 비슷한 류의 답변만 나와요

0

16

4

네이버 API | '검색 - 책' API 제공 중단

0

17

1

ArticleReadService 관련 질문

0

15

1

kafka 이벤트 발행 실패 시 at-least-once를 보장하는 방법이 궁금합니다.

1

38

1

domain에 @Entity 와 Repository를 함께 둔 이유가 궁금합니다

1

29

1

노드

0

24

1

Part 2 듣기전 복습하던 중, 아키텍처에 관한 질문이 있습니다.

0

32

2

장치 의존성과 CSR

0

30

1

테스트는 인터페이스를 대상으로 만드는것에 대해 궁금한 점이 있습니다.

0

22

1

아무도 모르게 책 내시면 모르실 줄 알고!!

1

43

2

[영한님]Spring Boot 및 프로젝트 생성

0

47

2

Jib 이미지 빌드에서 docker credential 관련으로 이슈가 있다면

1

60

1

스크립트에 대해 질문 있습니다.

1

54

1

같은 사용자가 연속된 중복 호출할 경우 어떻게 되는지 궁금합니다!

2

60

1

조건 검색 질문

0

32

1

기초실습 BERT파인튜닝 예제 오류

0

25

1

54강 양자화의 끝판왕, 터보퀀트 (예정) 강의 업로드

0

29

1

블로그에 학습 내용 올려도 되나요?

0

32

1

SPRING AI 실행을위한 환경설정이 궁금합니다.

0

164

2

429 에러 발생합니다

0

138

1

해당 내용을 공부하며 블로그에 포스팅 해도 될까요?

0

245

2

1

0

98

0