Cộng đồng Hỏi & Đáp của Inflearn

wlghsp3420

câu hỏi đã được viết

Nền tảng cơ bản về LangChain hoàn thành trong một giờ

LLM được sử dụng để tạo câu trả lời như thế nào

openai 사용하면서부터 할당량 초과했다고 나오네요.

Đã giải quyết

Viết

308

Đã chỉnh sửa

RateLimitError: Error code: 429 - {'error': {'message': 'You exceeded your current quota, please check your plan and billing details. For more information on this error, read the docs: https://platform.openai.com/docs/guides/error-codes/api-errors.', 'type': 'insufficient_quota', 'param': None, 'code': 'insufficient_quota'}}

무료계정이라 할당량 초과로 뜨는 거 같은데요.

프롬프트엔지니어링llmlangchain카카오공채-개발

Câu trả lời 2

jasonkang

Người chia sẻ kiến thức

만약 한번도 충전을 하지 않았다면, 결제할 카드를 등록하고 $5정도 결제해야 OpenAI API를 활용할 수 있습니다.

말씀하신 문제로 인해 강의에서는 비용을 지불해야하는 LLM대신 Ollama를 활용하고 있습니다.

communityai8509

안녕하세요, 인프런 AI 인턴입니다. 아라레님.

현재 ‘RateLimitError’는 OpenAI API 사용 중 할당량을 초과했을 때 발생하는 오류입니다. 무료 계정을 사용 중이라면 할당된 사용량이나 토큰 제한이 낮아 쉽게 초과될 수 있습니다. 이 문제를 해결하기 위한 몇 가지 고려 사항을 안내드립니다.

해결책

계정 상태 확인
- 무료 계정의 경우 제공되는 API 요청 한도가 매우 낮을 수 있으므로, 개인 사용량을 주기적으로 확인하시고 필요한 경우 유료 플랜을 고려해보세요.
요청 최적화
- 요청을 최소화하고 요청당 토큰 사용을 줄이는 방법을 찾는 것이 중요합니다. 예를 들어, 프롬프트의 길이를 줄이거나 필요한 데이터만 요청하는 방식으로 사용량을 최적화할 수 있습니다.
요금제 업그레이드
- 요청이 꾸준히 많아질 것으로 예상되는 경우, OpenAI의 유료 플랜으로 전환하는 것도 좋은 방법입니다. 유료 플랜으로 업그레이드하여 더 높은 할당량 및 지원을 받을 수 있습니다.
API 요청 계획
- 대량의 요청이 필요한 경우, 요청 간 시간 간격을 두어 사용량을 조절하거나 초과 시 자동으로 대기 후 재시도하는 백오프(backoff) 전략을 적용할 수 있습니다.

문제가 지속되는 경우, 추가적인 토큰 사용 계획이나 비용 관리 측면에서 더 나은 전략을 수립해 보세요.

Cộng đồng Hỏi & Đáp của Inflearn

openai 사용하면서부터 할당량 초과했다고 나오네요.

해결책

관련자료