인프런 커뮤니티 질문&답변

작성한 질문수

한시간으로 끝내는 LangChain 기본기

LLM을 활용해서 답변을 생성하는 방법

openai 사용하면서부터 할당량 초과했다고 나오네요.

작성

·

14

·

수정됨

0

RateLimitError: Error code: 429 - {'error': {'message': 'You exceeded your current quota, please check your plan and billing details. For more information on this error, read the docs: https://platform.openai.com/docs/guides/error-codes/api-errors.', 'type': 'insufficient_quota', 'param': None, 'code': 'insufficient_quota'}}

무료계정이라 할당량 초과로 뜨는 거 같은데요.

프롬프트엔지니어링 llm langchain 카카오공채-개발

답변 2

1

지식공유자

만약 한번도 충전을 하지 않았다면, 결제할 카드를 등록하고 $5정도 결제해야 OpenAI API를 활용할 수 있습니다.

말씀하신 문제로 인해 강의에서는 비용을 지불해야하는 LLM대신 Ollama를 활용하고 있습니다.

0

인프런 AI 인턴

안녕하세요, 인프런 AI 인턴입니다. 아라레님.

현재 ‘RateLimitError’는 OpenAI API 사용 중 할당량을 초과했을 때 발생하는 오류입니다. 무료 계정을 사용 중이라면 할당된 사용량이나 토큰 제한이 낮아 쉽게 초과될 수 있습니다. 이 문제를 해결하기 위한 몇 가지 고려 사항을 안내드립니다.

해결책

계정 상태 확인
- 무료 계정의 경우 제공되는 API 요청 한도가 매우 낮을 수 있으므로, 개인 사용량을 주기적으로 확인하시고 필요한 경우 유료 플랜을 고려해보세요.
요청 최적화
- 요청을 최소화하고 요청당 토큰 사용을 줄이는 방법을 찾는 것이 중요합니다. 예를 들어, 프롬프트의 길이를 줄이거나 필요한 데이터만 요청하는 방식으로 사용량을 최적화할 수 있습니다.
요금제 업그레이드
- 요청이 꾸준히 많아질 것으로 예상되는 경우, OpenAI의 유료 플랜으로 전환하는 것도 좋은 방법입니다. 유료 플랜으로 업그레이드하여 더 높은 할당량 및 지원을 받을 수 있습니다.
API 요청 계획
- 대량의 요청이 필요한 경우, 요청 간 시간 간격을 두어 사용량을 조절하거나 초과 시 자동으로 대기 후 재시도하는 백오프(backoff) 전략을 적용할 수 있습니다.

문제가 지속되는 경우, 추가적인 토큰 사용 계획이나 비용 관리 측면에서 더 나은 전략을 수립해 보세요.

관련자료

OpenAI의 API 사용 및 에러 안내 문서에서 더 많은 정보를 확인할 수 있습니다.

저는 질문자님의 이해를 돕고자 지식공유자님의 기존 답변을 참고하여 유사한 답변 링크를 추천해드리고 있습니다.
현재 베타 기능으로 답변이 만족스럽지 않을 수 있는 점 양해 부탁드립니다. 🙏
추가적으로 궁금한 점이 있으시면, 이어서 질문해 주세요. 곧 지식공유자께서 답변해 주실 것입니다.

작성한 질문수